Lapatilla
“Es una posición estresante, y casi de inmediato la persona se sumergirá en lo más profundo”, escribió en X el CEO de OpenAI Sam Altman al anunciar que buscan a un “jefe de alerta”.
Por: Gizmodo
El salario anual llegará a los US$555.000, según el aviso de OpenAI, y el jefe de alerta debe “ampliar, fortalecer y guiar” el programa actual del departamento de sistemas de seguridad de OpenAI. Este aspecto de OpenAI construye las salvaguardas que en teoría hacen que los modelos de OpenAI “se conduzcan como se espera que lo hagan en el mundo real”.
¿Están diciendo que los modelos de OpenAI se comportan como se lo espera en el mundo real? En 2025, ChatGPT siguió alucinando en los aspectos legales y atrajo cientos de quejas, que incluyen las que se refieren a disparar crisis de salud mental en los usuarios, además de que convirtió imágenes de mujeres vestidas en deepfakes en bikini. Sora debió eliminar la función de crear videos de figuras como Martin Luther King Jr. porque los usuarios abusaban de figuras históricas respetadas haciendo que digan básicamente cualquier cosa.
Cuando los casos por problemas relacionados con productos de OpenAI llegan a los tribunales, como sucedió con la demanda presentada por la familia del Adam Raine a quien supuestamente ChatGPT le dio consejos que llevaron a su muerte, hay un argumento legal de que los usuarios hicieron uso abusivo de los productos de OpenAI. En noviembre una presentación de los abogados de OpenAI citó violaciones a las reglas como causa potencial de la muerte de Raine.
Ya sea que creas en el argumento del abuso o no, por cierto, forma gran parte de cómo OpenAI entiende lo que hacen sus productos en la sociedad. Altman reconoce en su posteo de X sobre el puesto de jefe de alerta que los modelos de la compañía pueden tener impacto en la salud mental de las personas y que puede haber vulnerabilidades en la seguridad. Dice que “estamos entrando en un mundo donde hace falta un entendimiento más centrado en sus insinuaciones para medir cómo puede abusarse de esas capacidades para poder limitar estas desventajas, tanto en nuestros productos como en el mundo de manera que todos podamos disfrutar de los enormes beneficios”.
Puedes leer la nota completa en Gizmodo
