Bing ha estado incluyendo alucinaciones de los chatbots en sus resultados

El famoso ChatGPT de OpenAI tiene una base de datos llamada ‘Corpus’ que cuenta con millones de palabras provenientes de varias fuentes disponibles en Internet, como blogs, artículos, redes sociales o páginas webs oficiales; el chatbot de Google, Bard, incluye el uso de datos públicos para entrenar a dicha inteligencia artificial (IA); y si mencionamos a Bing Chat, este modelo también tiene su propia base de datos para mejorar los resultados.

Pero recientemente, en relación a los datos de Internet de los que aprenden los chatbots, Will Knight de Wired quiso documentarse de la famosa teoría de la información de Claude Shannon y notó que el motor de búsqueda de Bing incluía la ‘supuesta’ teoría de la aparición de algoritmos de búsqueda en sus artículos de investigación. Concretamente, mencionó el estudio «Una breve historia de la búsqueda» como «un trabajo fundamental en el campo de la informática que describe la historia de los algoritmos de búsqueda y su evolución en el tiempo». 

Además, como buena herramienta de inteligencia artificial, Bing también le ofreció algunas citas para demostrar que había verificado sus hechos.

Sin embargo, el verdadero problema es que Claude Shannon no escribió ningún artículo de ese tipo, asimismo, las citas ofrecidas por Bing son alucinaciones en el lenguaje de la IA generativa.

En verdad, es importante mencionar que este fallo fue ‘provocado’ por Daniel Griffin, quien recientemente terminó un doctorado en búsqueda web en la Universidad de California, para demostrar “cómo la prisa por implementar inteligencia artificial estilo ChatGPT está haciendo tropezar incluso a las empresas más familiarizadas con la tecnología. Y cómo los fallos en estos impresionantes sistemas pueden dañar servicios que millones de personas usan todos los días”.

Ante dicho error, Caitlin Roulston, directora de comunicaciones de Microsoft, afirmó en Wired que la compañía «ha ajustado Bing y modifica periódicamente el motor de búsqueda» para evitar que se propague información falsa, añadiendo que han «desarrollado un proceso para identificar estos problemas».

Apúntate a nuestra newsletter y recibe en tu correo las últimas noticias sobre tecnología.