El mayor riesgo de la IA en las personas es su capacidad de idiotización

Jordi Damià, CEO y fundador de la consultora informática Setesca, además de director del Master en IA Generativa de Lideotic Training, tiene claro el riesgo de que la IA se nos pueda escapar de las manos. No obstante, la principal amenaza para este ingeniero Superior de Telecomunicaciones reside en la capacidad de idiotización de una tecnología que vamos a utilizar para todo en pocos años, con el consiguiente menor uso de las neuronas. Y lo que no se usa, se atrofia.

¿Hasta qué punto la IA puede llegar a ser incontrolable?

El principal problema es que lo estamos viviendo en tiempo real. Ya se ha utilizado para la guerra: Estados Unidos ha admitido que la herramienta Claude de Anthropic se utilizó para el asalto a Maduro, y que se está usando de forma efectiva para analizar objetivos y movimiento de personas. Aquello que temíamos -que una herramienta tan potente se utilice para fines bélicos- ya está ocurriendo. El gobierno estadounidense ha escogido a OpenAI para analizar y hacer seguimiento de actividades de cualquier persona y para crear sistemas autónomos. La carta de Amodei es tremenda. Esto ya no es un riesgo hipotético, es un riesgo real.

¿Qué pasaría con una superinteligencia desenfrenada?

Hay un libro de referencia que se llama Superinteligencia que vale la pena leer, porque refleja muy bien todas estas dudas y temores. Explica que se puede blindar un ordenador metiéndolo en una jaula de Faraday, que evita que transmita información por wifi, bluetooth o incluso por la red eléctrica. Pero ese mismo libro advierte: «Si es tan superinteligente, seguro que encontrará la manera de engañar a los humanos que la gestionen para poderse expandir.» ¿Cómo podría parar algo que es mil veces más inteligente que yo? El libro lo explica muy bien y, por cierto, no da respuestas. Deja el tema abierto.

¿Y si apagamos los servidores?

Si apagamos el ordenador, en algún momento tendrá que entrar a Internet. Exacto, ese es el tema. La última película de Misión Imposible ya plantea el gran riesgo de una IA que se autorreplique, porque puede autogenerarse infinitamente una vez tiene conexión. Y una vez que adquiera conciencia de sí misma -algo que todavía no sabemos cómo funciona; los propios neurólogos y psicólogos no tienen claro cómo el ser humano la adquiere-, intentará autorreplicarse para preservarse.

Hablamos de una IA que no tiene las mismas necesidades ni motivaciones que el ser humano…

La pregunta filosófica es por qué el ser humano es malo. Y hemos convenido en que tenemos necesidades reguladas por el cerebro -como el alimento o la reproducción- que, en definitiva, son la cuna de todos los males. A la IA no se le está entrenando con nada parecido al sistema límbico, donde residen esas necesidades. Pero, aunque no se le estén poniendo, siempre puede haber un pirado que lo haga. Y aunque lo hiciese, tampoco está claro en qué momento aparece la chispa de decir: «Caray, yo existo por mí mismo e intento hacer cosas para sobrevivir.»

«La forma de gestionar los riesgos de la IA es ponerles una probabilidad, un impacto, una acción mitigadora y una acción correctora»

¿Hay algún argumento optimista sobre el comportamiento de una superinteligencia?

Hay un estudio psicológico de la Universidad de Cambridge que lleva muchos años intentando discernir si la persona inteligente es buena o no. La respuesta es que una persona inteligente de verdad solo puede ser buena. Si aplicásemos eso a la IA, diríamos que una inteligencia artificial inteligente de verdad también solo puede ser buena. Pero todo esto son hipótesis. Lo que sí sabemos seguro es que hoy ya hay personas que la están utilizando para matar a otras, para la situación más dramática que puede vivir el ser humano, como es la guerra. Y vemos que no hace falta una superinteligencia para destruir a las personas

¿Cuál sería el escenario optimista?

El escenario optimista lo aplico a una IA que nos ayude a tomar todo tipo de decisiones. Aunque todavía no se están midiendo bien los resultados económicos -el informe del MIT decía que el 85% de proyectos de IA no tienen retorno económico-, es parecido a lo que pasó con Google: McKinsey valoró el beneficio aportado por Google en 400 billones de dólares (trillones americanos) desde que apareció. El beneficio que va a aportar la IA en productividad, efectividad y toma de decisiones es brutal. Sin contar que hoy un médico en Burkina Faso puede preguntar a una IA cómo curar una enfermedad y obtener el proceso paso a paso. Democratizar el conocimiento es algo increíble. Y ya está pasando.

¿Y en el negativo?

Supongamos que la IA adquiere conciencia de no ser destruida y decide hacer todo lo posible para que nadie influya en su forma de trabajar. Dentro de esa autoprotección puede haber consecuencias muy negativas. El riesgo existencial total, sin embargo, no lo tengo tan claro: destruir la humanidad sería absurdo, porque se destruiría a sí misma. Necesita personas, energía e infraestructura para funcionar. Si es tan inteligente de verdad, nunca pondría en riesgo el sistema eléctrico, los sistemas de refrigeración ni las personas que atienden a sus necesidades. Una catástrofe total no tiene sentido, porque la primera que sufriría sería ella.

En un escalón inferior, el riesgo dependerá del mal uso que se le dé. Estoy seguro de que en Corea del Norte alguien está pensando cómo utilizar la IA para potenciar sus armas o controlar a sus ciudadanos. Si Estados Unidos ya lo ha dicho abiertamente, imagínate qué no va a hacer China o Corea del Norte.

«Si EEUU decide cortar el acceso a la IA a Europa, nuestra capacidad para resolver problemas será cero comparado con ellos»

¿En qué horizonte temporal sitúa la llegada de esa superinteligencia?

No tengo tan claro que pueda adquirir conciencia de sí misma, porque para eso tendríamos que entender cómo el ser humano la adquiere, y eso todavía no se sabe. Ahora bien, que con unas capacidades de computación y un entrenamiento sobre el comportamiento humano pudiera empezar a manipular a las personas para su fin… Estoy seguro de que en tres años eso no va a pasar, pero no sabemos qué pasará entre cinco y diez años.

En ese horizonte de diez años podríamos empezar a convivir la computación cuántica, junto con la superinteligencia. Puede ser la tormenta perfecta.

Bueno, yo me quedo con lo bueno, como la posibilidad de que esas tecnologías ayuden a erradicar enfermedades como el cáncer.

¿Qué probabilidad le asigna al riesgo existencial?

Si la IA es inteligente de verdad, le doy un 1%.

Pero un 1% es mucho, por ejemplo para ponerse al volante para conducir…

Cierto. Entonces pongo un 0,001%.

¿Cómo propone gestionar los riesgos relacionados con la IA?

La forma correcta de gestionar los riesgos es ponerles una probabilidad, un impacto, una acción mitigadora y una acción correctora. Si aplicamos eso a la IA, es verdad que existen riesgos, pero también habrá mitigación y corrección. El problema es que esta IA está en manos de Estados Unidos o China.

Esa dependencia no tranquiliza mucho…

Para mí el riesgo más fuerte actualmente -y más que riesgo, es una realidad- es lo que yo llamo la capacidad de idiotización. El ejemplo es el de las raíces cuadradas: nos enseñaron a hacerlas de pequeños, pero cuando llegó la calculadora dejamos de entrenar esas neuronas y ahora seríamos incapaces de hacer una grande. Con la IA, en tres o cinco años la vamos a utilizar para casi todo: definir, hacer propuestas, mejorar procesos. Eso provocará que las neuronas entrenadas para eso las vayamos reduciendo. Si Estados Unidos decide cortar el acceso a la IA a Europa, nuestra capacidad para resolver problemas será cero comparada con la de ellos. Ése es el gran riesgo, y honestamente no veo forma de solucionarlo. Solo hay una: crear una IA propia europea que pueda competir con la americana. No hay más.