Técnica para la exploración espacial podría ser clave para identificar «deepfakes» en internet

Las técnicas utilizadas para analizar galaxias distantes dejan de ser exclusivas de la astronomía para ahora ayudar a identificar deepfakes y fotografías generadas por Inteligencia Artificial (IA).

Una investigación de la Universidad de Hull, en el Reino Unido, ha demostrado que el análisis del comportamiento de la luz sobre superficies curvas es un método prometedor para desmentir información en las redes sociales.

Aunque el rostro y la voz de los personajes que se ven en una pantalla pueden ser imitados, todavía no existe una tecnología capaz de simular con precisión la física del brillo en los ojos.

El método propuesto por el Centro de Excelencia para la Ciencia de Datos, Inteligencia Artificial y Modelado, de la Universidad de Hull, sugiere utilizar el reflejo de la luz en los globos oculares como una prueba para determinar si las imágenes son creadas por una IA o son auténticas, reseñó Wired en nota de prensa.

Las deepfakes y las imágenes generadas por IA se vuelven más reales a medida que se perfeccionan aplicaciones como DALL-E o Midjourney. https://t.co/ctZ53PJtMi

— WIRED en español (@wiredenespanol) July 29, 2024

Para medir la consistencia física en el reflejo de la luz en los ojos, el científico Adejumoke Owolabi empleó el sistema CAS (Concentration, Asymmetry, and Smoothness) y el índice Gini. Ambas técnicas permiten a los astrónomos estructurar la luz proveniente de objetos distantes en el espacio y asignarles una magnitud, incluso cuando toda la información está contenida en unos pocos píxeles.

El sistema CAS cuantifica la concentración de luz, suavidad y simetría de un objeto, mientras que el índice Gini registra la desigualdad en la distribución de la luz. Cuando se unen, es posible determinar si una galaxia está interactuando con otra cercana o si tiene un núcleo activo.

El método desarrollado por Owolabi logró predecir deepfakes e imágenes generadas por IA con un 70% de precisión. La sofisticación de estas técnicas permitió detectar inconsistencias físicas en las fotos falsas al considerar la reflexión en los ojos derecho e izquierdo. Aunque las primeras pruebas no son tan precisas como el científico quisiera, su investigación abre un nuevo camino hacia la certificación de la información.

Según Nature, el trabajo de Owolabi aún no se ha publicado, pero fue presentado durante la Reunión Nacional de Astronomía de la Real Sociedad Astronómica del Reino Unido el pasado 15 de julio.

Las deepfakes y las imágenes generadas por IA se vuelven más reales a medida que se perfeccionan aplicaciones como DALL-E o Midjourney. La normalización y simplicidad de su uso han generado importantes controversias a nivel global.

Expertos en información digital han reafirmado que esta tecnología tiende a utilizarse con fines de desestabilización política, propaganda, pornografía y estafas.