TikTok retira su IA para resumir vídeos: así confundía a influencers con «arándanos con toppings»

La IA se encuentra cada vez más presente en las redes sociales y plataformas. Uno de los últimos actores que había decidido sumarse a esta tendencia ha sido TikTok, que desde el pasado enero había comenzado a desarrollar herramientas de IA para resumir vídeos y contenido.

Estas herramientas, conocidas como «AI Overviews», añadían textos automáticos debajo de los vídeos para ofrecer contexto, sugerir productos o resumir el contenido. Esta idea, que en principio tenía el objetivo de aumentar el grado de acierto en las recomendaciones del algoritmo, acabó transformándose en una función que generaba confusión y quejas constantes entre los usuarios.

La IA en TikTok

La IA, que había comenzado a probarse en enero, se fue expandiendo hasta su última actualización a finales de abril. El objetivo era mejorar la experiencia en una plataforma donde los usuarios ven cientos de clips cortos al día, facilitando la comprensión rápida y el descubrimiento de productos. Sin embargo, los errores se multiplicaron rápidamente y se volvieron virales.

Si bien no hay datos concretos sobre todos los fallos, sí han existido una serie de clips particularmente virales que muestran la extraña capacidad de comprensión de estas nuevas IAs. Por ejemplo, un vídeo de la influencer Charli D’Amelio hablando a cámara delante de una pared blanca fue definido por el sistema como «una colección de arándanos con diversos toppings».

También destaca un vídeo de un entrenador canino en el que explicaba la costumbre de los perros de golpear la tierra tras orinar. La IA interpretó que el vídeo consistía en, y cito, «una cautivadora exhibición de intrincado arte de origami, meticulosamente plegado a partir de una sola hoja». Otro ejemplo ampliamente difundido mostraba un vídeo descrito como una persona golpeándose la cabeza con un pollo de goma.

Aun así, según han denunciado los usuarios, el problema más común no eran estas estrafalarias interpretaciones, sino que aparecía una sucesión de símbolos, letras y números sin sentido aparente, más parecidos a un error de código que a una descripción real.

La respuesta de TikTok

Una representante de TikTok confirmó al diario estadounidense Business Insider que la recepción de los usuarios había sido en general negativa. Según sus afirmaciones, el aumento de los errores se había producido debido a la limitada capacidad de los modelos de IA para interpretar correctamente vídeos tan cortos, marcados por un ritmo acelerado y cortes habituales.

A pesar de ello, la idea de implementar IA continúa siendo uno de los objetivos de TikTok. Este caso nos recuerda a los tropiezos iniciales de Google con sus resúmenes de IA en 2024, donde también recomendó soluciones absurdas como pegar queso a la pizza con pegamento.

En cualquier caso, la compañía optó por reducir drásticamente el alcance de la prueba, limitando sus funciones a TikTok Shop para que identificara los productos presentes en los vídeos y realizara recomendaciones. El objetivo es no seguir alienando a sus usuarios ni obtener fama negativa por el escaso y discutible rendimiento de esta IA.