Meta incorporó nuevas medidas de protección en su asistente de inteligencia artificial para advertir a los padres cuando detecte que sus hijos adolescentes conversan sobre suicidio, autolesiones u otras situaciones que puedan indicar una crisis emocional.
La compañía explicó que las nuevas funciones buscan ofrecer una experiencia adecuada a la edad de los usuarios y detectar cuándo un adolescente podría estar atravesando un momento difícil.
Actualmente, cuando un joven manifiesta en una conversación que piensa en suicidarse o hacerse daño, Meta AI le muestra recursos para contactar líneas de ayuda y lo anima a hablar con un adulto de confianza.
A este sistema se sumarán notificaciones proactivas dirigidas a los padres, similares a las que Instagram ya envía cuando identifica que un adolescente realiza búsquedas reiteradas sobre suicidio o autolesiones durante un periodo breve.
En el caso del asistente de inteligencia artificial, la alerta podrá activarse tanto por referencias explícitas a estos temas como por señales más sutiles que sugieran que el adolescente podría estar en riesgo.
Antes de enviar una notificación, las conversaciones identificadas serán revisadas por un equipo humano de moderación. Meta señaló que, cuando las intenciones del adolescente sean ambiguas, privilegiará una respuesta preventiva y alertará a los padres.
La función estará disponible inicialmente para las familias que ya utilizan las herramientas de supervisión parental de Instagram en Estados Unidos, Reino Unido, Australia y Canadá. La empresa proyecta extenderla al resto del mundo antes de finalizar el año.
Los padres también podrán utilizar la configuración de contenido limitado, que restringe el acceso a publicaciones clasificadas para mayores de 13 años en las cuentas de adolescentes. Esta protección se aplicará ahora igualmente a las conversaciones mantenidas con Meta AI.
Meta informó además que trabaja con especialistas en salud mental y adolescencia para mejorar la manera en que su asistente responde a consultas relacionadas con suicidio y autolesiones.
La entrada Meta AI alertará a padres si detecta conversaciones de adolescentes sobre suicidio o autolesiones se publicó primero en El Periodista.
