En un esfuerzo por proteger la salud mental de sus usuarios más jóvenes, Instagram, bajo la dirección de Meta, ha comenzado a implementar una nueva función de alerta temprana. Esta iniciativa busca notificar a los padres o tutores si sus hijos adolescentes, con edades entre 13 y 17 años, muestran señales de angustia relacionadas con la salud mental durante sus interacciones con Meta AI, la inteligencia artificial de la compañía.
¿Cómo Funciona el Sistema de Alerta?
La mecánica detrás de esta herramienta es robusta y pensada para la seguridad. Cuando Meta AI detecta indicios de riesgo en una conversación, incluso si son referencias sutiles a hacerse daño, el sistema marca el chat. Es importante destacar que, antes de enviar cualquier notificación a los padres, un equipo humano revisa manualmente cada conversación señalada. Esta revisión garantiza que las alertas sean precisas y se eviten malentendidos. Además, Meta no solo avisa, sino que también comparte recursos y guías de expertos para que los adultos tengan herramientas para abordar estas conversaciones delicadas con sus hijos.
Esta medida ya está activa en Estados Unidos, Reino Unido, Australia y Canadá, y la compañía tiene planes de extenderla a nivel global antes de fin de año. La implementación de este sistema de inteligencia artificial, dedicado exclusivamente a identificar estas conversaciones de riesgo, fue desarrollado en conjunto con más de 75 especialistas en salud mental, quienes ayudaron a definir las señales de alarma y a entrenar a la IA para respuestas apropiadas a la edad.
Más Herramientas de Supervisión para Padres
Esta nueva funcionalidad se suma a otras medidas que Instagram ya implementa, como las notificaciones a padres supervisores cuando un adolescente busca repetidamente términos relacionados con atentar contra su vida. Las cuentas para adolescentes ya vienen con una configuración de contenido por defecto para mayores de 13 años, que también aplica a Meta AI, impidiendo conversaciones inapropiadas. Ahora, la opción de “Contenido Limitado”, una configuración más restrictiva, se extenderá también a las interacciones con Meta AI, permitiendo a los padres un mayor control sobre el tipo de consultas que el asistente puede responder.
La seguridad de los más jóvenes es una prioridad creciente para las plataformas digitales. ¿Y vos qué pensás de esta actualización de Instagram para proteger la salud mental de los adolescentes? ¿Creés que es una herramienta útil para las familias?
