¿La IA decide por nosotros?: estamos en el mayor experimento social de la historia

La imprenta cambió cómo compartíamos ideas, la bomba atómica redefinió la guerra… pero ninguna invención había logrado lo que hace la IA. Harari lo explica en Infobae: «No es una herramienta como todas. Es un agente… capaz de inventar nuevas ideas, aprender y cambiar por sí sola», dijo ante en el CEO Council del Wall Street Journal realizado en Londres.

Por primera vez, una tecnología puede actuar sin intervención humana: decidir qué atacar, cómo evolucionar, qué narrativas construir. Y sin controles claros, se abre una era de riesgo existencial.

Ya en enero de este año, Harari resumió su advertencia con crudeza: “Una bomba atómica no puede decidir dónde detonar; la IA, sí”, en un artículo publicado por La Tercera. Y nada más cerca a la realidad actual.

Mientras los humanos establecemos límites para la energía nuclear y nos peleamos por eso, las IAs avanzadas ya pueden tomar decisiones letales, inventar nuevas armas y manipular narrativas que antes sólo controlaban las instituciones humanas. Esta autonomía rompe por completo con todas las tecnologías anteriores.

Que la inteligencia sea capaz de alterar historias colectivas —desde las financieras hasta las religiosas— sin supervisión humana, plantea un experimento sociológico sin precedentes. Como Harari lo dice, estamos liberando “millones de agentes digitales” capaces de narrar, decidir y definir estructuras de poder. El riesgo no es futuro; sucede hoy: ¿quién cuenta nuestras historias cuando la IA puede crearlas?

Además de su autonomía, Harari alerta sobre otra amenaza: que el desarrollo de la IA quede en manos de pocos países y corporaciones. Eso podría replicar la Revolución Industrial, donde unos pocos dominaron el progreso y marginaron al resto, marcando el rumbo de la evolución humana. Y no solo eso: estas tecnologías podrían controlarnos, convencernos, influir en nuestras creencias y manipular economías basadas, ya no en dinero, sino en narrativas informacionales. Un nuevo orden que hasta ahora era solo tema de conspiranoicos.

No se trata de frenar la tecnología, sino de humanizarla. Harari insiste en que el camino es construir regulaciones que contemplen su autonomía, leyes que limiten decisiones letales y marcos globales que promuevan narrativas compartidas, comprensibles y éticas. Porque si dejamos que la IA decida por nosotros, podríamos despertar en un mundo gobernado por agentes cuya única lealtad es… su propio código.

Instagram, Twitter y Threads: @willmarf