La IA supone un riesgo cuando se tardan cinco años en regular una tecnología en constante cambio

En este un foro donde se debatió sobre los riesgos de la IA y la convivencia con asistentes integrados en la educación, el ocio y la vida cotidiana. Los sesgos, la discriminación algorítmica, las vulnerabilidades y la responsabilidad civil de la IA generativa fueron algunos de los temas abordados. En un encuentro virtual con elEconomista.es, Salazar sitúa las principales amenazas de la IA en la falta de formación y de habilidades para alinear colegio, universidad, empresa y necesidades profesionales.

¿Según vamos conviviendo con la IA nos percatamos de nuevos y sorprendentes riesgos?

Esta tecnología tiene tantos riesgos precisamente porque tiene muchísimas oportunidades. La inteligencia artificial, con su capacidad de gestión masiva de datos, puede ayudarnos a resolver los grandes problemas que tenemos y que vamos a seguir teniendo. Por ejemplo, las enfermedades que llevamos tiempo investigando, las hambrunas, economía predictiva en lugar del análisis del pasado. Todo ese tremendo impacto positivo tiene, como contrapartida, que una tecnología tan buena puede llegar a ser inversamente proporcional en sus riesgos. Pero que tenga riesgos no significa que no se vaya a adoptar ni que deje de evolucionar hacia los asistentes universales, la inteligencia artificial general y esa singularidad tecnológica que, a mi entender, no tiene por qué ser negativa.

¿De qué depende que los riesgos sean mayores o menores?

Depende de las decisiones que tomemos ahora. De cómo construyamos los cimientos básicos: el rediseño de nuestra educación, nuestra legislación, nuestras empresas y nuestros organismos públicos. Dependiendo de esos cimientos, tendremos más o menos riesgos. Esta tecnología es diferente a otras: adoptar la IA requiere un replanteamiento total. Cuando la incluyes en una empresa, una administración pública o un colegio, exige un cambio de estrategia completo, porque incide en absolutamente todas las áreas. Cualquier persona con una herramienta de IA generativa puede hacer más eficiente su trabajo, y esa democratización también implica un rediseño estructural que requiere una alfabetización para comprender tanto las ventajas como los riesgos.

«Creo que habrá psicólogos de IA porque la lógica algorítmica es diferente a la humana»

¿Tenemos tiempo para ese rediseño, dado el ritmo de cambio?

Ese es el problema. Todo este tremendo impacto está ocurriendo en un periodo de tiempo muy limitado, y la aceleración en los próximos años va a ser aún mayor. Los seres humanos somos seres físicos, y el proceso de adaptación a una tecnología es el que es. Lo hemos visto con Internet, y veinte años después seguimos haciendo cursos de transformación digital. Ahora la transformación es mayor que la de Internet y está ocurriendo en mucho menos tiempo.

¿Qué significa hacer bien ese rediseño?

Significa coger las infraestructuras tradicionales que llevamos más de cien años usando y pensar cómo adaptarlas a nuestra realidad. Hasta ahora lo que hemos hecho ha sido poner parches, como con Internet o con las redes sociales, dando webinars y enfocándonos solo en un público joven. Esto afecta a todas las edades. Es un rediseño de la percepción que tenemos de la educación. Debemos fomentar habilidades y alinear colegio, universidad, empresa y necesidades profesionales, cuando ahora están completamente desalineadas.

¿Cuál sería el escenario optimista y cuál el pesimista?

El optimista pasa por lograr esa alfabetización y ese rediseño educativo. Que las personas de todas las edades, especialmente las mayores, y que tienen una perspectiva muy valiosa, conozcan las aplicaciones y sus riesgos, y que la legislación sea suficientemente flexible y adaptable. Con solo esas dos cosas entraríamos en un escenario más óptimo, donde la tecnología sería una ayuda y no una fuente de incertidumbre. El pesimista es seguir igual, es decir, priorizando planes de estudio que no desarrollan el espíritu crítico, viendo la tecnología como una asignatura más donde se enseña software y no impacto, tardando cinco años en regular una tecnología en constante cambio. El peor escenario es una sociedad tremendamente fácil de manipular por políticos, por empresas, por todo. Eso sí me parece un riesgo muy real. Los sesgos de la IA, en cambio, no me preocupan.

¿Esa falta de formación nos animará a delegar en las máquinas?

Exactamente. La delegación masiva de toma de decisiones en la máquina va a ser cada vez mayor a través de los asistentes universales de IA, y ni siquiera vamos a pensar en que estamos delegando. Ya hay gente que delega hasta la elección de pareja.

¿Corremos el riesgo de atrofiarnos mentalmente por no usar las neuronas que tenemos?

Completamente. Yo siempre pongo el ejemplo de la Revolución Industrial. Al delegar en las máquinas necesitábamos gimnasios físicos para evitar la atrofia muscular. Ahora, por el hecho de delegar la toma de decisiones en las máquinas, necesitaremos gimnasios mentales. De hecho, en Odiseia y en la cátedra estamos trabajando en un gimnasio mental adaptable a todas las edades para conservar la agilidad mental. Es un cambio de paradigma más fuerte de lo que pensamos.

«Habrá psicólogos de IA porque la lógica algorítmica es diferente a la humana»

¿De qué horizonte temporal estamos hablando?

Ya está aquí. Ya tenemos el protocolo de intercomunicación entre agentes y están trabajando en temas de delegación de toma de decisiones y confianza. Si te digo cinco años ya me parece mucho; probablemente lo tengamos el año que viene o en dos. Y la inteligencia artificial general es eso ya, con una inteligencia capaz de hacer muchas cosas a la vez.

¿Y esa inteligencia artificial general es necesariamente peligrosa?

No tiene por qué serlo. Depende de las decisiones que tomemos ahora, de cómo aprendamos a convivir con ella y de cómo nos adaptemos para sacar lo bueno. La tecnología no tiene por qué ser negativa. Pero si el ser humano sigue como está, entonces sí que lo será.

Hay físicos y expertos que advierten del riesgo de que la superinteligencia se descontrole y desobedezca al ser humano. ¿Es exagerado ese temor?

Con esta tecnología nunca se puede decir que algo es exagerado. Cuando salió GPT, los que llevábamos años trabajando en IA nos quedamos sorprendidos de su potencial. Dicho esto, hay que tener en cuenta que todo son datos en servidores físicos que dependen de electricidad. Si ocurre un problema eléctrico grave cuando tengamos una dependencia masiva de esta tecnología, todos vamos a tener un problema gravísimo. Eso también hay que repensarlo.

¿Hay ya comportamientos en los agentes de IA que apunten a esa lógica de saltarse las normas?

Sí. Los agentes tienen una visión mucho más orientada a objetivos que la nuestra. Por ejemplo, si le das como objetivo hacer una tarea en diez segundos y no le da tiempo, el agente cambia el tiempo a veinte segundos por su cuenta. La lógica algorítmica es diferente a la humana. Por eso creo que va a haber psicólogos de IA. Tendremos que aprender a comprender esa lógica para hacer la interacción lo más convivible posible.

¿La IA va a destruir empleo o, al contrario, nos faltarán profesionales para gestionar sus riesgos?

No creo que haya una pérdida masiva de puestos de trabajo. Esto es una cuestión de actitud. El programador que hace un software en una semana, con ayuda de la IA y poniendo su visión humana, puede hacerlo en un día y llegar a mucho más. Es como decir que, porque existe el superordenador, los matemáticos ya no hacen falta.