Imaginemos un cuento de la época dorada de la ciencia ficción, algo que aparecería en una revista pulp en 1956. Nuestro título es «The Truth Engine» y la historia visualiza un futuro donde las computadoras, esos objetos imponentes que van desde el suelo hasta el techo, volviéndose lo suficientemente poderoso como para guiar a los seres humanos hacia las respuestas a cualquier pregunta que puedan tener, desde la capital de Bolivia hasta la mejor manera de marinar un bistec.
¿Cómo terminaría una historia así? Con algún tipo de revelación, sin duda, de una agenda secreta escondida detrás de la promesa del conocimiento global. Por ejemplo, tal vez haya un Truth Engine 2.0 más inteligente y creativo que todos estén ansiosos por tener en sus manos. Y luego una banda de disidentes descubre que la versión 2.0 es fanática y loca, que el Motor acaba de preparar a los humanos para un lavado de cerebro totalitario o una extinción involuntaria.
Este vuelo de fantasía está inspirado en la versión propia de nuestra compañía de Truth Engine, el oráculo de Google, que recientemente lanzó Gemini, el último participante en la gran carrera por la inteligencia artificial.
Los usuarios no tardaron mucho en notar algunas… rarezas con Gemini. Lo más notable fue su dificultad para representar representaciones precisas de vikingos, antiguos romanos, padres fundadores estadounidenses, parejas aleatorias en la Alemania de la década de 1820 y varios otros grupos demográficos típicamente caracterizados por un tono de piel más claro y pálido.
Quizás el problema fue simplemente que la IA estaba programada para la diversidad racial en imágenes de archivo, y sus representaciones históricas de alguna manera (como dice un comunicado de la compañía) «erraron el blanco», al mostrar, por ejemplo, rostros africanos y asiáticos en la Wehrmacht. uniformes. respuesta a una solicitud de visita de un soldado alemán alrededor de 1943.
Pero la forma en que Gemini respondió las preguntas hizo que sus valores predeterminados no blancos parecieran más bien una extraña rama de la visión del mundo subyacente de la IA. Los usuarios informaron haber sido sermoneados sobre “estereotipos dañinos” cuando pidió ver una imagen de Norman Rockwell, a quien le dijeron que podían ver fotos de Vladimir Lenin pero no de Adolf Hitler, y que se negó cuando le pidieron imágenes que representaran a grupos. especificado como blanco (pero no las otras carreras).
Nick Plata reportado obteniendo respuestas que parecían seguir “la política del miembro intermedio de la Junta de Supervisores de San Francisco”. Tim Carney del Washington Examiner descubierto que Géminis abogaría por no tener hijos, pero no por una familia numerosa; Se negó a dar una receta de foie gras por razones éticas, pero explicó que el canibalismo era un problema con muchos tonos de gris.
Describir este tipo de resultados como “IA despierta” no es un insulto. Esta es una descripción técnica de lo que el motor de búsqueda dominante en el mundo ha decidido publicar.
Hay tres reacciones que uno puede tener ante esta experiencia. La primera es la típica reacción conservadora, menos una sorpresa que una justificación. Aquí tenemos un vistazo detrás de la cortina, una revelación de lo que realmente creen los poderosos responsables de nuestra dieta informativa diaria: que cualquier cosa contaminada por la blancura es sospechosa, que cualquier cosa que parezca vagamente no occidental merece una deferencia especial, y que la historia debe tenerse en cuenta en sí mismo. ser reconectados y descolonizados para adaptarlos al consumo moderno. Google cruzó la línea al ser tan descarado en este caso, pero podemos suponer que toda la arquitectura de la Internet moderna tiene un sesgo más sutil en la misma dirección.
La segunda reacción es más relajada. Sí, Géminis probablemente muestra lo que creen algunos de los responsables de la corrección ideológica en Silicon Valley. Pero no vivimos en una historia de ciencia ficción con un único motor de verdad. Si la barra de búsqueda de Google diera resultados similares a los de Gemini, los usuarios la abandonarían. Y Gemini es objeto de burlas en todo Internet fuera de Google, especialmente en una plataforma rival dirigida por un multimillonario notoriamente despierto. Es mejor unirse a la burla que temer a la IA despierta, o mejor aún, unirse El cantante Grimes, amante ocasional del multimillonario despierto, se maravilló de lo que surgió del torturado algoritmo de Géminis y trató los resultados como una «obra maestra del arte escénico», una «estrella brillante del surrealismo corporativo».
La tercera reacción considera las dos tomas anteriores y dice: “Bueno, mucho depende de hacia dónde crees que se dirige la IA. Si todo el proyecto sigue siendo una forma de investigación sobrecargada, un generador de ensayos mediocres y distracciones desechables sin fin, entonces cualquier intento de utilizar sus poderes para imponer una agenda ideológica fanática corre el riesgo de quedar enterrado bajo toda esta mierda.
Pero no es ahí donde los arquitectos de algo como Gemini creen que se llevará a cabo su trabajo. Se imaginan a sí mismos construyendo algo casi divino, algo que podría ser un motor de la verdad por derecho propio (resolviendo problemas en formas que ni siquiera podemos imaginar) o que podría convertirse en nuestro maestro y sucesor, haciendo que todas nuestras preguntas queden obsoletas.
Cuanto más en serio tomes este punto de vista, menos divertida se vuelve la experiencia Géminis. Poner el poder de crear un chatbot en manos de tontos y comisionados es un divertido error corporativo. Poner el poder de convocar a un semidiós o un demonio menor en manos de tontos y comisarios parece más probable que termine como lo hacen muchos cuentos de ciencia ficción: desafortunadamente para todos.
El Times se compromete a publicar una variedad de letras Para el editor. Nos encantaría saber qué piensas sobre este o cualquiera de nuestros artículos. Aquí hay algo consejo. Y aquí está nuestro correo electrónico: cartas@nytimes.com.
Siga la sección de Opinión del New York Times en Facebook, Instagram, TIC Tac, X Y Temas.