Me preocupa que los nuevos lanzamientos de la IA se utilicen para construir armas

La joven industria de la inteligencia artificial acapara las miradas de especialistas y profanos por la apuesta disruptiva de la startup DeepSeek. Entre el aluvión de valoraciones sobresalen las consideraciones de Chuck Herrin, responsable de tecnología (CISO) de la compañía F5 Networks, referencia global comprometida en crear herramientas digitales innovadoras.

¿Cómo queda el mapa mundial de la IA con la aparición de estos nuevos modelos chinos?

Creo que el mundo todavía está digiriendo el impacto, y siguen apareciendo y actualizándose más modelos. Esto continuará: la proliferación en general seguirá acelerándose, sobre todo a medida que mejore el rendimiento en modelos más pequeños y baratos. Cuanto menor es el coste, más casos de uso se plantean. Esto tiene un impacto dramático en las áreas de inversión de la IA, y definitivamente subraya la falta de verdaderos moats (fosos) a medida que el código abierto sigue ganando terreno. Tenemos que intentar prepararnos para la inteligencia libre ilimitada y todas sus implicaciones.

Parece que ha pillado por sorpresa a toda la industria… ¿No esperaba que China estuviera preparando algo semejante? ¿De verdad se pensaba que se iba a quedar de brazos cruzados?

Depende de a quién preguntes. Durante un par de décadas dirigiendo programas de seguridad he aprendido que la emoción más peligrosa que puede sentir un defensor es la arrogancia. Así que, aunque muchos pensaron que el liderazgo estadounidense era inabordable, resulta que quizás muchas de las limitaciones impuestas al equipo en China fueron catalizadores que condujeron a los verdaderos avances aquí. Las innovaciones más notables se refieren en gran medida a la eficiencia y la reducción de costes, que es en lo que debe trabajar la gente sometida a sanciones. Lo más sorprendente quizá sea el escaso presupuesto que han necesitado en comparación con los grandes proyectos de IA anunciados hasta ahora…Tal vez, aunque la cifra que se suele dar es un poco engañosa, y realmente no se sabe lo que es cierto viniendo de China, pero por lo que he visto de otros investigadores la eficiencia y el aumento de costes son muy sustanciales, independientemente de cuántos millones hayan costado. No es como si alguien pudiera cobrar un cheque de 6 millones de dólares hoy y replicar lo que hicieron; eso es como citar cuánto cuesta construir un coche después de haber invertido en una fábrica. Hay mucha infraestructura que no está incluida en esa cifra.

¿La aparición de estos nuevos sistemas va a ser un contrapoder necesario para evitar la hegemonía de Estados Unidos o tenemos que desconfiar de China?

Creo que tenemos que ser cautelosos con lo que está ocurriendo y comprender los aspectos geopolíticos de la condición de carrera global de la inteligencia artificial en la que nos encontramos. Ninguna de estas potencias mundiales puede detener o siquiera pausar su investigación en IA y, como de costumbre, la seguridad y la gestión de riesgos pasan a un segundo plano. Todo el mundo está en una carrera por adoptar la IA, desde las pequeñas empresas hasta las grandes compañías, los gobiernos de todos los países y las potencias nucleares mundiales. Todo el mundo siente que «si no lo hacemos nosotros, lo harán «ellos», y todo el mundo tiene al menos un «ellos» del que preocuparse». Esta presión sobre la velocidad siempre pone en segundo plano la gestión del riesgo, ya que ir más despacio puede llevar a perder la carrera, lo que es potencialmente existencial. Las personas y las organizaciones no siempre actúan con sensatez o racionalidad bajo ese tipo de presión.

¿Considera que DeepSeek es suficientemente sólido y confiable?

Uno de los aspectos más preocupantes de los lanzamientos de DeepSeek, y que probablemente se mantendrá en los nuevos lanzamientos de modelos, es lo laxos que son los controles de alineación y lo fácil que es hacer hackear los modelos y utilizarlos con fines maliciosos o destructivos. Muy rápidamente después de que todos empezáramos a descargar estos nuevos modelos, los equipos rojos y los criminales aprendieron de inmediato cómo aprovechar estos modelos tan potentes para crear nuevo malware, diseñar ransomware y sistemas de robo de información, y quién sabe qué más se podría abusar de DeepSeek para ayudar a crear. Ahora mismo creo que pasamos demasiado tiempo preocupándonos de si el modelo dirá cosas prohibidas para el CCP y demasiado poco preocupándonos de que los actores maliciosos abusen de él. Me preocupa mucho menos que el modelo diga Winnie the Pooh; me preocupa mucho más que se utilice para construir armas.

¿Cuál es la situación de la UE? ¿La ve capaz de sorprender con algo de ese nivel o seguirá regulando lo que hacen los demás, frenando la innovación y animando a los mejores a irse al extranjero?

No, aunque hay grandes actores en Europa, si vemos algún gran salto en innovación creo que será a manos de algún científico o de un pequeño grupo de personas inteligentes con una gran idea que utilice la IA existente para dar un salto adelante. No creo que haya nada que impulse realmente la innovación desde arriba, pero en Europa hay ingenieros de gran talento con acceso a una tecnología muy potente, y vamos a ver un montón de saltos sorpresa a medida que nos adentremos en esta era exponencial. Esto va a ser cada vez más común.