La ciencia ficción advirtió que la IA podría acabar con la humanidad, pronto sabremos si es posible | National Geographic

Si las herramientas de IA generativa actuales se parecen más a una versión sofisticada del autocompletado que a HAL 9000, ¿podrían conducir finalmente al tipo de IA que vemos en la ciencia ficción?

Es imposible saber si las máquinas llegarán a desarrollar alguna vez la consciencia de sí mismas. “No entendemos cómo surge eso en nuestra propia cognición”, profundiza Mitchell.

Sin embargo, muchos expertos sostienen que las herramientas de IA no necesitan ser sensibles para ser disruptivamente inteligentes. Los modelos más avanzados ya pueden superar a los humanos en una serie de métricas y tareas cognitivas, como las matemáticas, la codificación y el reconocimiento de patrones en grandes conjuntos de datos. Y estos modelos mejoran constantemente.

“En todos los puntos de referencia que hemos elaborado, están mejorando cada vez más”, dice Yoshua Bengio, profesor de la Universidad de Montreal, pionero en el campo del aprendizaje profundo y fundador de la organización sin ánimo de lucro LawZero, dedicada a la seguridad de la IA.

Hay áreas en las que la cognición de las máquinas aún está muy por detrás de la de los humanos. La capacidad de planificación de los sistemas de IA se encuentra actualmente “al nivel de un niño”, menciona Bengio, aunque señala que los modelos de vanguardia están avanzando rápidamente en este ámbito. Al haber sido entrenados principalmente con texto e imágenes, sus capacidades de razonamiento espacial también son deficientes, agrega.

Una gran pregunta en la investigación actual sobre IA es hasta qué punto se pueden impulsar los modelos hacia la inteligencia humana o sobrehumana. Aunque las empresas han logrado avances enormes al dedicar una gran cantidad de potencia computacional a sus modelos, no está claro que unos ordenadores cada vez más potentes vayan a dar lugar a máquinas cada vez más inteligentes. En cierto momento, puede que se necesite algo más.

Mitchell señala que, mientras que los bebés aprenden interactuando con el mundo que les rodea, los sistemas de IA se entrenan de forma pasiva alimentándolos con enormes cantidades de información. Esto puede ayudar a explicar por qué los chatbots tienden a mentir: al carecer de retroalimentación del mundo real, a menudo les cuesta discernir si la información es verdadera o falsa.

Bengio asegura que, en lugar de cruzar algún umbral hacia un mundo de máquinas sensibles, como vemos en las películas de ciencia ficción, la inteligencia artificial seguirá desarrollándose de forma desigual.

“No deberíamos pensar en si hemos superado el umbral de la IAG”, afirma el fundador de LawZero. (La AIG, o inteligencia artificial general, suele referirse a máquinas con inteligencia similar a la humana). “Debido a la irregularidad con la que evoluciona la inteligencia en la IA, es posible que ese momento nunca llegue”.

Un umbral posiblemente mucho más importante es cuando las máquinas alcancen un nivel de inteligencia que les permita acabar con la humanidad.

Es un escenario que hemos visto repetirse una y otra vez en la ciencia ficción. Algunos lo descartan precisamente por eso. “No me parece un argumento plausible en absoluto”, dice Ted Chiang, el galardonado escritor de ciencia ficción cuya novela corta Story of Your Life fue adaptada al cine en 2016.

Según Chiang, cuando la gente habla de que la IA se volverá contra nosotros para perseguir sus propios objetivos, están proyectando lo que ven en el comportamiento de los seres humanos y las empresas poderosas.

“Creo que, inconscientemente, están recapitulando el espíritu emprendedor de Silicon Valley”, dice el autor. “Están atribuyendo a la IA los mismos valores que tienen los fundadores de las startups, es decir, un enfoque de crecimiento a toda costa y de tierra quemada frente a la competencia”.

A Bender le preocupan mucho más otros riesgos más inmediatos del desarrollo tecnológico no regulado, como las cuestiones de privacidad, el impacto medioambiental de los centros de datos y los chatbots que incitan a las personas a quitarse la vida. Los algoritmos que “se convierten en conciencia” y deciden matarnos a todos “no son el problema que me preocupa”, insiste.

Pero Bengio sostiene que la IA no necesita ser consciente de sí misma para suponer una amenaza existencial. Una herramienta de IA entrenada en virología, explica, podría convertirse en una herramienta para que un terrorista cree una pandemia. En teoría, una IA podría idear por sí misma la idea de un arma de este tipo, especialmente si considerara que la humanidad se interpone en su camino. Los investigadores ya han realizado experimentos que demuestran que los modelos sofisticados recurrirán al chantaje, al espionaje corporativo e incluso al asesinato para evitar ser apagados.

“En muchos experimentos, vemos que la IA tiene un sentido de la autoconservación”, comenta Bengio. “Harán lo que sea necesario para asegurarse de que no los apaguen. Incluso cosas malas”.

Aunque estos experimentos no prueban en absoluto que la IA vaya a intentar acabar con la humanidad algún día, el fundador de LawZero afirma que “no podemos esconder la cabeza bajo el ala” solo porque consideremos que ese escenario es muy improbable.

Irónicamente, Mitchell afirma que una de las razones por las que vemos modelos que realizan acciones poco éticas es que están expuestos a historias sobre IA rebelde en sus datos de entrenamiento, y luego comienzan a interpretar esos personajes y comportamientos. Si se le presenta el escenario adecuado, ¿intentaría una IA imitar a HAL algún día? Esta posibilidad da un nuevo enfoque al debate.

“¿Se sienten realmente amenazados o están interpretando estos tópicos de ciencia ficción con los que han sido entrenados?”, pregunta Mitchell. “En términos del resultado para nosotros, ¿qué diferencia hay?”.