¿Estamos exagerando el potencial de la inteligencia artificial (IA)? ¿Qué es inteligente? ¿Irás alguna vez a otro día para ser humano? Estas son algunas de las inquietudes que Melanie Mitchell (Los Ángeles, 55) plasma en su libro Inteligencia artificial. Guía para seres pensantes., que Capitán Swing publicó en Castellano estas lunas. Su respuesta es contundente: tenemos muchos deberes para crear superinteligencia, porque algunas empresas tienen que hacerlo al revés. Hay una razón fundamental por la que las máquinas no hacen las cosas como las hacemos nosotros. Puedes lograr que haya algo mejor para Nadie, pero para que un bebé de un año llegue al mundo.
Mitchell proporciona un contexto fundamental para calibrar el fenómeno de la IA, una tecnología instalada en el debate público desde hace dos años, apareciendo como herramientas como ChatGPT. Políticos, empresarios y académicos han dado a conocer recientemente a los criminales de estos sistemas, quienes han iluminado al mundo sobre los elaborados textos que son capaces de generar y las imágenes y videos hiperrealistas que pueden producir.
El profesor Davis de Complejidad del Instituto de Santa Fe y el profesor de la Universidad Estatal de Portland describen en su trabajo cómo funcionan los sistemas de IA más avanzados y las herramientas de la razón humana. Conclusión: aspectos clave de la intuición o el conocimiento del entorno son, actualmente, inutilizables para cualquier máquina. Mitchell llega a EL PAÍS vía videoconferencia desde su casa en Santa Fe, Nuevo México.
PREGUNTA. ¿Qué es capaz de hacer la IA hoy?
RESPUESTA. Desde hace años se está produciendo un gran salto en sus capacidades con la participación de la generación de IA, que incluye aplicaciones como ChatGPT o Dall-E. Pero estos sistemas, aunque también pueden compararse, no son el mismo tipo de comprensión del mundo que tenemos nosotros. Por eso, en algún momento hay un outsider o nos inventamos cosas. Presta atención a la fiabilidad, existen una serie de limitaciones difíciles de predecir. Entonces, aunque estos sistemas pueden ser muy útiles y usarlos todo el tiempo, debemos estar protegidos con la confianza que depositamos en ellos. Especialmente si no hay supervisión humana.
PAG. Por qué ?
A. Hay errores de cometas en las tumbas. Un claro ejemplo para los coches autónomos. Una de las razones por las que no siempre estamos entre nosotros es que rara vez nos encontramos con un ser humano, porque no podemos identificar un giro o un obstáculo. Otro ejemplo son los sistemas automáticos de reconocimiento facial. Las máquinas son extremadamente buenas para detectar imágenes, pero han comprometido su capacidad para identificar a personas de piel más oscura o mujeres. Con ChatGPT, hemos visto innumerables casos en los que inventamos lo que decimos.
PAG. ¿El auge de la IA generativa está contribuyendo a perjudicar el desarrollo de la disciplina?
A. De todos modos, eso es todo trilla aumenta las expectativas de la gente y esto también provoca desilusión. He tenido éxito en muchos sentidos, incluso en gran parte de la historia de la IA. En las décadas de 1950 y 1960, decidimos que en unos pocos años llevaríamos las máquinas a la inteligencia humana. Esto no sucede. La licitación de IA se llevó a cabo en invierno: obtuvo financiación de encuestas y empresas. Ahora estamos en un período de gran espera. La pregunta realmente es ¿cuándo las predicciones de los optimistas o de los optimistas se tendrán en cuenta en otra gran decepción? Es difícil decidir.
PAG. En apenas tres años, el futuro será el Metaverso. Hola, nadie habla de ello. ¿Crees que con la IA se puede pasar algo similar?
A. Continuamente siguen grandes innovaciones tecnológicas: producen una especie de gran exageración publicitaria, pero no cumplen con las expectativas y la gente se equivoca y, finalmente, la tecnología se vende en consecuencia. Este resultado será útil, pero no tan brillante como la gente espera. Es probable que esto esté sucediendo con la IA.
PAG. Le ayudamos a que los sistemas de IA se preocupan por la comprensión semántica o el sentimiento común y, por lo tanto, no pueden ser verdaderamente inteligentes. ¿Por qué esto cambiaría en algún momento?
A. Es posible. No hay ninguna razón por la que no podamos poner en marcha una máquina como esa. La pregunta es, ¿cómo vamos a llegar allí? ChatGPT está conectado a todos los libros y textos digitales disponibles, así como a todos los vídeos e imágenes de Internet. Pero eso se debe a que eres consciente de los sentimientos y conocimientos comunes y no estás codificado en lenguaje ni datos: sólo puedes capturar los viajes de la experiencia. Quizás las máquinas no puedan pensar de una forma más humana que sin experimentar el mundo como lo hacemos nosotros. Existe un gran debate en la disciplina de la IA sobre este tema. Así pues, el gran salto se producirá cuando la máquina no sólo se dedique al lenguaje, sino que también experimente activamente el mundo como un niño.
La historia de la IA ha demostrado que nuestras intuiciones sobre la vida y la inteligencia tienen muchos errores, que en realidad todo es mucho más complejo de lo que pensamos.
PAG. Cuando tienes una forma de robot.
A. Sí. Una IA insertada en un robot podría tener el mismo tipo de educación o desarrollo que un niño. Esto es algo que observó en la década de 1950, Alan Turing, uno de los padres de la informática. Esta idea cobra más sentido ahora.
PAG. Le describimos en el libro cómo funciona la IA y qué ve con nuestra forma de razonamiento. ¿Cómo importar el proceso si cumples con tu función?
A. Depende de quién quiera utilizar el sistema. El GPS de mi automóvil puede encontrar una ruta de viaje y una vista de dónde quiero ir. Sin entender el concepto de vía ni de tráfico, pero tienes un buen trabajo. En realidad, la cuestión es que los sistemas interactúan de manera más general con el mundo humano. ¿Hasta qué punto tendrán que escucharlo? Se da el caso en el que un vehículo autónomo frena en un momento concreto y el conductor no sabe por qué. Como resultado, apareció un anuncio con un anuncio que indicaba una señal de alto. ¿Cómo evitar errores? Sólo cuando entendemos el mundo como nuestro nosotros.
PAG. ¿Creías que podías leer la IA?
A. No veo por qué no podemos desarrollar máquinas con inteligencia disponible para los humanos. Pero va a ser muy difícil conseguirlo aquí, no estamos ni cerca. Durante la década de 1970, se creía que cuando las máquinas pudieran funcionar al nivel de un gran maestro, tendrían la misma inteligencia humana. El resultado no está ahí. Se dice que cuando tenemos la capacidad de traducir textos o mantener conversaciones. Tampoco pasó. Toda la historia de la IA ha demostrado que nuestras intuiciones sobre la vida y la inteligencia tienen pocos errores, que en realidad todo es mucho más complejo de lo que pensamos. Y creo que esto es lo que sucederá siendo así. Vamos a aprender mucho más sobre lo que realmente significa ser inteligente.
Decidir que los sistemas de IA podrían destruirse y destruirse, como mínimo, es una afirmación muy improbable y especulativa.
PAG. Entonces tendré mercido la pena.
A. Uno de los objetivos de la IA es la utilidad de lo que entendemos por inteligencia. Y, al implementarlo en máquinas, tenemos la confianza de que en realidad incluye muchas cosas que no tomamos en cuenta.
PAG. Algunos pioneros de la IA, como Geoffrey Hinton, descubrieron que la tecnología podía ser difícil de controlar. Qué piensas ?
A. La IA contiene muchos tipos de pescadores. Puedes usarlo para producir información y falsificaciones profundas. Hay algoritmos que se comentan en el caso del reconocimiento facial. Hinton y otros y eso significa que estos sistemas podrían ser derribados y destruidos. Esta afirmación es, como mínimo, altamente improbable y especulativa. Si queremos desarrollar un sistema dudo superintelectual al que no le importen nuestros valores, ¿cómo podemos lograr que no todos los humanos estén bien? Centrar tanto esta idea como las dramáticas acciones existenciales para la humanidad sólo requiere llamar la atención sobre lo verdaderamente importante en ese momento.
PAG. ¿Por qué como sociedad estamos abordando adecuadamente estas medidas que hoy estamos violando?
A. Sí, aunque la legislación es siempre la que marca el ritmo de la innovación. La UE ha dado un primer paso con el Reglamento europeo sobre IA. Una de las cosas que estamos experimentando en Estados Unidos es la demanda de derechos de autor. Todos estos sistemas tienen enormes cantidades de texto e imágenes. Si su usuario no le paga, ¿estamos infringiendo los derechos de autor? La ley no es clara porque se promulgó mucho antes del desarrollo de esta tecnología. Realmente vamos a arreglar esto.
Los neurocientíficos no saben cómo funciona el cerebro y hacen experimentos para encontrar la sensación de lo que acabo de hacer. Esto es lo que está pasando ahora con la IA generativa
PAG. ¿Cuál es la aplicación de IA más impresionante que verás finalmente?
A. Lo que más me entusiasma es que la aplicación de estos sistemas plantea problemas científicos. DeepMind, por ejemplo, está trabajando en el uso de IA para definir la estructura de las proteínas. También se utiliza para desarrollar nuevos materiales y medicamentos. Estamos en una especie de nueva era de la ciencia, que podría ser importante como la que se inauguró con la liga de ordenadores.
PAG. En el libro se dice que calibrarás sistemas de aprendizaje profundo, la técnica más avanzada de IA, parecen alquimistas en vez de científicos, car ajustan parámetros en las máquinas sin saber exactamente qué hacen.
A. Una vez que escribiste el libro, los ingenieros te encargaron instrucciones (las instrucciones que siguen a las herramientas de IA generativa). Su trabajo es hacer que el sistema entregue los mejores resultados posibles. El resultado es que personas que ganan mucho dinero hacen este trabajo. Sí, es alcohol puro, nada de ciencia, algo más. Solo se trata de probar cosas. Algunos funcionan y otros no, y no hay idea de por qué.
PAG. El resultado irónico es que optimizamos las tecnologías más sofisticadas de la historia de la humanidad para darles vida.
A. Este sistema es hijo, en cierto sentido, de cajas negras. Su sistema de software Se trata de enormes complejos que no están programados explícitamente para hacer cosas, pero que se han entrenado a sí mismos, han aprendido los datos y pueden decir qué funciona de la manera en que lo hacen. Los neurocientíficos también trabajan como el cerebro y hacen experimentos para encontrar la sensación de lo que acabo de hacer. Esto es lo que está sucediendo ahora con la IA generativa.
Puedes seguir un EL PAÍS Tecnología fr. Facebook Sí X o haga clic aquí para recibir el nuestro boletín semanal.
Suscríbete para seguir el curso
Límites del pecado de Lee
_