Como los deepfakes están cambiando la democracia en la India

Los deepfakes son videos o audios realizados con inteligencia artificial que simulan la realidad, tan precisamente que resultan engañosos. Pueden ser usados para todo tipo de propósitos, por los momentos su uso más común ha sido proyectar la cara de un actor sobre la de otro, ya que resulta gracioso ver a Jim Carrey haciendo el papel de Jack Nicholson en The Shining. O ver a Nicolas Cage interpretando todos los papeles de Friends al mismo tiempo. Sin embargo, mientras la tecnología se perfecciona, usos más turbios se vuelven comunes.

En el 2018, se hizo viral un video en el que el rostro de Barack Obama es proyectado sobre el del actor Jordan Peele. El actor y director dice un montón de tonterías para demostrar cómo los deepfakes pueden ser usados para influenciar a los votantes durante una elección. Desde entonces la manera en que se producen estos videos ha progresado muchísimo, como lo demuestra el increíble video musical de Kendrick Lamar publicado en el 2022, durante el cual el rapero parece transformarse de un segundo a otro en Will Smith, Kobe Bryant, Kanye West y más figuras icónicas o infames. El nivel de realismo se multiplicó varias veces en solamente cuatro años.

Estos avances tecnológicos son tan impresionantes como aterradores, ya que nos acercan a una realidad en la cual ya no podremos confiar en nuestros propios ojos. Hoy en día ya podemos experimentar el potencial de los deepfakes para influenciar una elección, solo tenemos que mirar hacia la democracia más grande del mundo, la de la India. En ese país, partidos políticos han comenzado a producir videos falsos en los que parece que un actor famoso está criticando al actual primer ministro Narendra Modi, y motivando al público a votar por partidos de oposición. En ese contexto, cada vez será más difícil tomar decisiones políticas informadas.

¿Cómo los deepfakes están cambiando cómo funciona la democracia en la India?

Sujata Paul, una miembro del partido Congress, compartió un deepfake en su cuenta de X en el que la superestrella de Bollywood, Ranveer Singh, habla sobre las promesas incumplidas del primer ministro de la India y sobre los problemas económicos que todavía no han sido resueltos. Por eso le piden a la gente que voten por la oposición. La publicación fue compartida 2.900 veces, recibió 8.700 likes y fue vista por más de 430.000 personas. Por supuesto que muchos habrán reconocido que se trataba de un video falso, X añadió una advertencia de que el clip había sido manipulado por IA. Pero también sería justo asumir que otros miles pensaron que se trataba de un metraje auténtico.

En un ejemplo más perturbador, el equipo de un congresista en el sur de la India realizó un deepfake en el cual el padre fallecido del político dice: «A pesar de que mi cuerpo ya los ha dejado, mi alma todavía permanece. Mi hijo será el legítimo heredero del amor, afecto y fe que ustedes pusieron en mí». Antes de su muerte solía ser un político bastante popular, tanto así que resucitaron su imagen para motivar al público a votar por su hijo.

Pero el uso más influyente e interesante de los deepfakes no tiene nada que ver con engañar a los votantes o con traer a candidatos de vuelta de la muerte, sino que el objetivo es lograr comunicarse efectivamente con el público, en un país en el que se hablan 22 lenguajes oficiales en conjunción con miles de dialectos regionales.

El candidato solo tiene que decir un corto mensaje frente a la cámara para que la tecnología cree la ilusión de que se está dirigiendo directamente al votante, hablándole en su idioma y en su dialecto local. Así es posible generar mensajes extremadamente personalizados, en los que parece que el político te está hablando a ti, mencionando tu nombre y haciendo referencia a los principales problemas de tu comunidad. La tecnología incluso cuenta con la habilidad de responder las preguntas de los votantes. En los dos meses previos a las elecciones de abril, se realizaron 50 millones de llamadas no solicitadas generadas con inteligencia artificial. Esta práctica ha sido ilegalizada en los Estados Unidos, mientras que en la India es una práctica política cada vez más común.

La práctica ya se ha normalizado en la India

640 millones de personas votaron en las masivas elecciones de la India de este año. En este país, la industria de los deepfakes políticos ya vale 60 millones de dólares. Se ha convertido en un dolor de cabeza para los verificadores, quienes constantemente están monitoreando el Internet para identificar falsedades. Bajo estas circunstancias, un político podría afirmar que cualquier clip que no le sea conveniente es un deepfake. Algo que ya sucede frecuentemente en el país, porque es cada vez más fácil generar un video de un político diciendo alguna barbaridad que lo hará menos popular.

El efecto de estos engaños es cuantificable. Durante las elecciones estatales del 2023, la empresa iToConnect generó 20 millones de llamadas generadas con inteligencia artificial, para 15 candidatos, incluida la voz del ministro en jefe del Estado. Por dos semanas antes de las elecciones, los votantes recibían llamadas de treinta segundos, algunas pidiéndoles que votaran por cierto candidato, otras eran saludos personalizados durante festividades religiosas, algunas deseándoles feliz cumpleaños. Luego de eso, decenas de votantes comenzaron a visitar las oficinas del partido para expresar su alegría por haber sido contactados personalmente. Les encantó que el candidato se había dirigido a ellos por su nombre.

Por supuesto, la voz del primer ministro también ha sido usada para motivar a las personas a votar. Sobre todo en lo que respecta a las zonas más remotas del país, la conectividad es limitada, por lo que pocos utilizan redes sociales frecuentemente. Se cree que estas llamadas personalizadas son esenciales para influenciar a millones de votantes. La ética detrás de muchas de estas prácticas es bastante cuestionable, y nos pone los pelos de punta imaginar lo confusa que será la política en el futuro, mientras que la tecnología progresa y estas prácticas se masifican por todo el planeta.