Meta anunció una nueva función para reforzar la seguridad de los adolescentes que utilizan Meta AI, con la que notificará a los padres o tutores cuando detecte posibles señales de angustia emocional en las conversaciones de los menores con el asistente de inteligencia artificial.
La compañía explicó en un comunicado que la herramienta está diseñada para adolescentes de entre 13 y 17 años que tienen habilitada la supervisión parental en Instagram. Si Meta AI identifica indicios relacionados con autolesiones o suicidio, la conversación será revisada por una persona antes de enviar una alerta a los padres.
Las notificaciones incluirán recomendaciones elaboradas con especialistas para ayudar a los padres a conversar con sus hijos y brindarles apoyo. Meta señaló que, ante la duda sobre la gravedad de una situación, optará por enviar la alerta para evitar pasar por alto un posible caso de riesgo.
La empresa indicó que la función comenzará a implementarse en Estados Unidos, Reino Unido, Australia y Canadá, y prevé extenderla al resto del mundo antes de que concluya el año.
Lee también:
Meta afirma que principales modelos de IA son menos propensos a criticar regímenes represivos
Como parte de las nuevas medidas de protección, Meta también ampliará la configuración de Contenido Limitado para los adolescentes que utilizan Meta AI. Con esta opción activada, el asistente rechazará un mayor número de solicitudes relacionadas con temas sensibles o potencialmente inapropiados.
La compañía señaló que el desarrollo de estas herramientas contó con la colaboración de más de 75 expertos en salud mental y protección infantil, con el objetivo de fortalecer las salvaguardas para los menores que interactúan con inteligencia artificial.
Además, Meta informó que continúa explorando mecanismos para contactar a los servicios de emergencia cuando detecte conversaciones que sugieran un riesgo inminente para la vida de un usuario.
Inspírate, descubre y comparte. ¡Síguenos y encuentra lo que buscas en nuestro Instagram!
