Descubren que Claude de Anthropic tenía un algoritmo oculto en su IA para rastrear a los usuarios

Claude Code es un agente de inteligencia artificial diseñado por Anthropic para la programación y el desarrollo de software que, a diferencia de los chatbots tradicionales, opera directamente desde el dispositivo y tiene la capacidad de leer toda una base de código, ejecutar comandos, solucionar fallos de forma autónoma y editar archivos. No obstante, al operar como un agente autónomo, un desarrollador conocido como Thereallo ha descubierto que Code era capaz de ejecutar un algoritmo diseñado para rastrear a los usuarios.

Acorde a la información compartida en el estudio, Thereallo explica que Anthropic usó el método esteganografía para ocultar información dentro de otra y, así, modificar el texto creado por inteligencia artificial para que pudiese ser usado para rastrear a las personas. Además, este método era imposible de detectar porque el código cambiaba la forma en las que se mostraban las fechas a un formato particular y modificaba el apóstrofo de ciertas frases por caracteres Unicode, sin embargo, no instalaba malware en los dispositivos al tratarse de una especie de spyware.

Según Thereallo, la presencia de este código ha desatado una ola de críticas contra Anthropic, debido a que algunos usuarios han acusado a la compañía de actuar con hipocresía al recordar que se mostró contraria al uso de la IA con fines de vigilancia.

Ante esta situación, la controversia ha llevado a uno de sus ingenieros, Thariq Shihipar, a pronunciarse públicamente en su cuenta de la red social X para explicar el motivo de esta función y tratar de tranquilizar a los usuarios. Según aseguró, el algoritmo fue desarrollado para combatir la reventa no autorizada de cuentas y dificultar la denominada destilación, una técnica mediante la cual un competidor puede entrenar un nuevo modelo utilizando las respuestas generadas por otra inteligencia artificial.

Además, Shihipar afirmó que este algoritmo se trataba de un experimento y no un proyecto oficial para rastrear a todos los usuarios de Claude, teniendo en cuenta que ya ha sido eliminado del servicio porque han creado técnicas que mitigan todos estos problemas de forma efectiva.