Meta AI vigilará las conversaciones de los adolescentes y avisará a sus padres ante señales de riesgo

Meta ha añadido nuevas protecciones para que el asistente Meta AI envíe avisos proactivos a los padres cuando sus hijos adolescentes traten temas sensibles en una conversación, como las autolesiones o el suicidio. Con esta actualización, la compañía de Mark Zuckerberg quiere detectar si los menores «podrían estar pasando por un momento difícil», de esta manera, el chatbot puede alertar a los adultos de que el menor está mencionando términos relacionados con el suicidio o la autolesión.

Acorde a la información compartida por Meta en su blog oficial, esta notificación se activará ante referencias claras a esos temas, pero también ante señales más sutiles que sugieran que el adolescente podría estar en riesgo. No obstante, las conversaciones marcadas por un tema sensible pasarán la revisión de un equipo de moderación humano antes de enviar la notificación, teniendo en cuenta que «si la intención de un adolescente es ambigua», desde Meta «actuarán con precaución y alertarán a los padres».

Por ahora, la compañía de Zuckerberg sigue trabajando con expertos en salud mental para mejorar la forma en que Meta AI responde a las consultas de éstos relacionadas con suicidio y autolesiones. 

Así lo afirma en su blog oficial: «Estamos utilizando esos comentarios para mejorar aún más la forma en que Meta AI interactúa con los adolescentes sobre estos temas delicados; por ejemplo, asegurándonos de que Meta AI reconozca los sentimientos de los adolescentes al dirigirlos a recursos de apoyo y no interrumpa la conversación e forma demasiado abrupta».

Disponibilidad

Estas alertas de Meta AI ya están disponibles para los padres que utilizan la supervisión parental de Instagram en Estados Unidos, Reino Unido, Australia y Canadá, teniendo en cuenta que la intención de Meta es extender esta función al resto de padres de todo el mundo antes de que termine el año.

Cabe mencionar que los padres tienen a su disposición la configuración de contenido limitado, que restringe la aparición de contenido para mayores de 13 años en las cuentas de adolescentes. Por ahora, esta medida también se aplica a las conversaciones que sus hijos mantienen con Meta AI.