Anthropic se ofrece a frenar la carrera por la IA tras superar a OpenAI en valoración y preparar su debut en bolsa

La presentación por parte de Anthropic del documento inicial ante el regulador de EEUU para tramitar su salida a bolsa constituye un capítulo clave en el desarrollo de la IA. La firma encabezada por Dario Amodei, que también tiene previsto registrar sus primeros beneficios este verano, se ha adelantado a su rival inmediata, OpenAI, elevando la expectativa por las posibilidades de esta nueva tecnología. La compañía, que trabaja en su estrategia para el futuro inmediato, ha mostrado en numerosas ocasiones sus preocupaciones éticas por un desenvolvimiento incontrolado de la IA y recientemente ha publicado un documento en el que sugiere ralentizar o pausar la evolución de dicha inteligencia artificial.

En el texto titulado ‘Cuando la IA se construye a sí misma’ (When AI builds itself), Anthropic, la compañía, sugiere que «sería bueno para el mundo tener la opción de ralentizar o pausar temporalmente» el desarrollo de la inteligencia artificial. La firma encabezada por Dario Amodei sugiere hacer un alto en el camino para permitir a las sociedades avanzar hasta alcanzar el ritmo de la IA con el objetivo de contener los riesgos de la misma.

Para Anthropic, la IA está avanzando a un nivel tan acelerado que en el futuro será capaz de entrenarse a sí misma, aumentando su inteligencia y elevando las consecuencias negativas para los seres humanos. El control sobre el desarrollo de la IA ha sido una cuestión mencionada por Dario Amodei, director ejecutivo de la empresa, quien llegó a escribir el año pasado un texto pidiendo evitar la desregulación total de la inteligencia artificial.

Además, la compañía señala que la propia empresa podría proporcionar las herramientas necesarias para ejecutar una moderación o una pausa en el desenvolvimiento de la IA. Anthropic llama a los países y las empresas del mundo a pactar unas condiciones para frenar esta carrera tecnológica, comparándola con la carrera armamentística entre la URSS y Estados Unidos, la cual no impidió a ambas potencias establecer acuerdos como el del Tratado sobre Fuerzas Nucleares de Rango Intermedio.

Anthropic hace este llamamiento días después de iniciar los trámites para su debut bursátil, el cual dependerá de «las condiciones del mercado y de otros factores», según señaló la propia compañía. Es posible que la empresa encabezada por Dario Amodei quiera mostrar una cara más amable hacia los potenciales inversores en un contexto en el que parece ser una de las puntas de lanza de la IA, después de superar recientemente en valoración a OpenAI.

Una IA que se entrena a sí misma

Por otro lado, la recomendación de Anthropic se produce al final de un texto en el que exhibe el músculo de su IA. En el documento, la empresa explica cómo se han desarrollado las principales herramientas de la compañía desde 2021: chatbots, bots conversacionales construidos sobre un modelo inteligente que emiten respuestas en función de ‘prompts’; los agentes de IA, sistemas de software diseñados para resolver cuestiones complejas; y los agentes de IA autónomos, similares a los anteriores pero con un grado mayor de automatización. El objetivo de la compañía es combinar todos esos elementos para conseguir que la propia IA se entrene a sí misma, alcanzando el proceso conocido como la autosuperación recursiva.

Según Anthropic, el desarrollo de su IA ha llegado a tal punto que es capaz de escribir código automáticamente, sin ninguna intervención directa de los trabajadores. Así, la IA es capaz de ejecutar un volumen de tareas elevado a una velocidad superior a la que precisarían los empleados para acometerlas, permitiéndoles operar en otras cuestiones. Como consecuencia, algunos ingenieros de software aseguran que llevan meses sin escribir una línea de código por sí mismos.

Para Anthropic este escenario constituye una ventana de oportunidad para llegar a la autosuperación recursiva, cuya teoría establece que, de alcanzar el máximo rendimiento, podría desarrollar la superinteligencia, es decir, una IA con una inteligencia superior a la de los seres humanos.

Escenarios del futuro

Aunque Anthropic no menciona explícitamente la superinteligencia en su texto, sí hace referencia al riesgo de que la autosuperación recursiva pueda escapar al control de los seres humanos. En este sentido, la compañía considera que existen tres escenarios de futuro del desarrollo de la IA. En el primero, el desarrollo de esta tecnología se frena, pero sus herramientas son difundidas, mientras que en el segundo, la IA avanza permitiendo que las compañías alcancen ganancias de eficiencia, es decir, producir más con menos recursos. En el tercero, la IA alcanza la autosuperación recursiva y genera sus propios nuevos modelos mejorados.

Para la compañía, estamos en el segundo escenario. El texto de Anthropic señala que las ganancias de eficiencia podrían revolucionar el conocimiento de los trabajadores y los servicios públicos, pero también pueden generar efectos negativos, como un aumento del autoritarismo a través de la vigilancia poblacional masiva y de la manipulación de una tecnología cuya inteligencia no podría ser igualada por ningún ser humano.

La compañía, sin mencionarlo, hace referencia en este punto a la singularidad tecnológica. Se trata de un concepto que describe el momento en el que la IA alcanza la capacidad para entrenarse a sí misma, dando lugar a un desarrollo irreversible hasta producir una inteligencia superior a la de los seres humanos e incomprensible por estos.

Por ello, el avance frenético de la IA ha contado con numerosas críticas, entre ellas, la de Stephen Hawking, quien en 2014 aseguró en conversaciones con la BBC que el desarrollo completo de inteligencia artificial podría acabar con la humanidad. Para el científico, una IA capaz de entrenarse a sí misma actuará por su cuenta, y se rediseñará a un nivel mayor, mientras que los humanos «limitados por una evolución biológica lenta, no podrán competir y serán desplazados».

Anthropic, Palantir y el León XIV

Además, el auge del autoritarismo ligado a la IA y mencionado por Anthropic no parece ser una ocurrencia. En este sentido, Palantir publicó en X (antigua Twitter) un manifiesto con los principales puntos de la República Tecnológica concebida por Alexander Karp, director ejecutivo de la compañía. En él, se abogaba por la fabricación de armas mediante la IA, el establecimiento de un servicio militar universal y el rechazo al pluralismo «vacío y sin sentido». Se trataba de una exposición que evocaba en ciertos puntos al manifiesto futurista de Marinetti, creador del futurismo, movimiento sobre el que se desarrolló el fascismo italiano.

El propio Papa León XIV también ha mostrado preocupación por la tendencia autoritaria del desarrollo de la IA y recientemente ha publicado una encíclica, llamada ‘Magnifica Humanitas’, que llama a «desarmar» a esta tecnología. En el texto, el pontífice señala que la IA borra la inhumanidad vinculada a la guerra, elevando el riesgo de generar conflictos con más rapidez y más violentos. Por ello, León XIV pide un incremento del control sobre el desenvolvimiento de la IA. La postura del papa y la de Anthropic coinciden tanto que no es casual que Chris Olah, cofundador de la firma, estuviera presente en el Vaticano durante la presentación de la encíclica.

Por otro lado, Anthropic ha publicado el texto sobre la autosuperación recursiva de su IA el mismo día en el que el director ejecutivo de Softbank, empresa que colabora con OpenAI en el proyecto Stargate, ha asegurado que la creadora de ChatGPT está diseñando un modelo capaz de entrenarse a sí mismo y alcanzar la superinteligencia. Es decir, que más allá de las preocupaciones éticas y morales de Anthropic, existe una carrera directa con OpenAI que Dario Amodei está interesado en ganar.