El CEO de Anthropic advierte de los riesgos de los nuevos modelos de IA: «Pueden ser usados contra la democracia»

Dario Amodei, CEO de la empresa de inteligencia artificial Anthropic, es una de las figuras más críticas dentro del mundo de la IA en la actualidad. Pese a ser una de las compañías que más está desarrollando esta tecnología, su visión destaca por ser más conservadora que la de otras empresas del sector, como OpenAI, cuya aproximación suele ser, en general, más positiva y esperanzada.

Amodei lleva años avisando del riesgo latente que existe en el desarrollo de estas tecnologías, más aún desde que se ha revelado la potencia de los modelos más avanzados y sus capacidades en ciberseguridad. Según la visión de Amodei, la IA es uno de los mayores avances tecnológicos de las últimas décadas, algo completamente revolucionario y, por ello, tremendamente peligroso si no se trata con el cuidado y el respeto que merece.

Los riesgos de la IA

En una reciente entrevista con el Financial Times, Amodei expresó sus preocupaciones en relación con esta nueva tecnología. Según él, la IA es una tecnología totalmente revolucionaria que podría cambiar el mundo. Amodei sostiene que la inteligencia artificial tendrá un impacto mucho mayor del que la sociedad anticipa. A su juicio, no existen señales de desaceleración en el desarrollo tecnológico. Por el contrario, cree que estamos avanzando hacia sistemas extremadamente potentes, hasta el punto de imaginar un futuro en el que centros de datos operen con capacidades equivalentes a «un país de genios».

De hecho, cree que la IA podría aumentar el PIB de Estados Unidos hasta un 10% anual en caso de que continúe su implementación. No obstante, en la propia entrevista también señala los riesgos. Amodei afirma que hasta el 50% de los empleos de entrada para trabajadores cualificados podrían verse afectados en un plazo de cinco años, lo que podría generar desempleo.

En este sentido, continuando con las ideas expuestas en el informe «Labor market impacts of AI: A new measure and early evidence» de Anthropic, publicado en marzo de 2026, se estima que en algunas profesiones la probabilidad de sustitución supera el 75%. También, en la misma entrevista, considera que la IA, sin control, podría ser utilizada por los gobiernos de una forma autoritaria, como una herramienta de control sobre la sociedad. En este sentido, Amodei se posiciona totalmente en contra, afirmando que es «un patriota» y que no podría colaborar jamás con ese tipo de iniciativas.

Amodei también rechaza la concentración excesiva de poder. A su juicio, sería peligroso que una sola empresa o un solo gobierno controlara la IA. En su lugar, apuesta por un modelo de colaboración entre el sector privado, las instituciones públicas y la sociedad civil, con mecanismos compartidos de supervisión.

En este caso, hace referencia a su enfrentamiento con un representante del ejecutivo de Donald Trump, que le exigió el uso de sus sistemas de IA para la seguridad nacional, algo a lo que Amodei se negó al considerar los riesgos latentes.

«La adolescencia de la tecnología»

Amodei lleva años avisando de estos riesgos. De hecho, ha escrito un amplio artículo que permite entender de forma completa su visión. En enero de 2026 publicó en su blog el ensayo «La adolescencia de la tecnología», un documento llamativo, ya que, si bien muestra ciertas esperanzas sobre la IA, también tiene un tono claramente alarmista sobre el desarrollo de este tipo de tecnologías.

A su entender, la IA se encuentra ahora mismo en una fase de «adolescencia», comenzando a formar las bases de lo que será su utilización en la sociedad. De este modo, la IA ya sería «peligrosa para la sociedad», al no estar lo suficientemente vigilada y desarrollada como para asegurar que su uso siempre será positivo.

Con una narrativa de bildungsroman, Amodei repasa en su artículo qué aspectos deben ser vigilados especialmente. La idea central del texto es que la IA actual combina dos características peligrosas: un poder creciente y una falta de control equivalente. Igual que un adolescente, la tecnología es capaz de realizar tareas complejas e incluso superar a los humanos en ciertos ámbitos, pero todavía presenta comportamientos imprevisibles y difíciles de gestionar. Esta combinación, según Amodei, genera un momento especialmente delicado.

Otro punto clave del ensayo es la dicotomía entre el avance tecnológico y las capacidades de control y comprensión sobre él. De hecho, el propio Amodei reconoce en el texto que no solo las instituciones tienen una capacidad de control limitada, sino que los desarrolladores muchas veces tampoco tienen un conocimiento completamente claro de los resultados de su trabajo, especialmente en los modelos más avanzados, lo que puede ser peligroso.

Ahora bien, frente a estos problemas, Amodei propone una serie de soluciones. En lugar de propugnar un freno a la tecnología en sí, exige que las compañías tengan una mayor responsabilidad sobre sus creaciones, revisando más los modelos avanzados y, sobre todo, no poniéndolos a disposición del público hasta asegurarse de que son seguros y adecuados.

Al contrario que algunas de sus contrapartes, como Elon Musk, Amodei no considera que la buena voluntad empresarial sea suficiente, pues siempre habrá actores que busquen beneficiarse de forma negativa de la IA. Así, aboga por que los Estados se impliquen más tanto en la legislación como en la vigilancia de la inteligencia artificial.