Revisan condenas por violación en Reino Unido por uso sesgado de la IA

En el Reino Unido ha saltado un escándalo relacionado con el supuesto uso de inteligencia artificial (IA) para manipular pruebas mediante la provisión de instrucciones sesgadas a un ‘chatbot’ de IA. Este es el primer incidente conocido de este tipo en el sistema judicial británico. 

Un detective de la Policía del condado de Derbyshire ha sido apartado de sus funciones y se encuentra en el centro de una investigación criminal por la supuesta manipulación del proceso judicial. Varias sentencias condenatorias por violación en las que participó están siendo revisadas.

Según datos publicados por Financial Times, el oficial utilizó un ‘chatbot’ de IA para redactar documentos judiciales. Presuntamente, daba instrucciones a la red neuronal para alterar el contenido de los documentos en favor de la acusación. En concreto, obligaba a la IA a exagerar los testimonios de las víctimas, que son una prueba clave para que el juez determine la sentencia, y también usaba la IA para redactar informes que convencían a los fiscales y supuestamente instruyendo al ‘software’ que asegurara la aprobación de las acusaciones. 

«Utilizó palabras convincentes para asegurarse de obtener el resultado que el [sospechoso] probablemente merece», declaró al Financial Times una fuente cercana a la investigación. Otra persona confirmó esta información.

La Fiscalía de la Corona (CPS) ya ha comenzado a contactar con los abogados defensores y los tribunales sobre los casos que podrían estar comprometidos. La Policía de Derbyshire confirmó la existencia de la investigación, pero se negó a precisar el número exacto de casos que están siendo revisados, afirmando que la investigación se encuentra en una fase temprana.