Meta implementa herramienta para alertar a padres sobre riesgos en chats con IA
Meta ha lanzado medidas para reforzar la seguridad de los adolescentes que utilizan chatbots de inteligencia artificial, permitiendo alertar a los padres ante posibles menciones de suicidio o autolesiones.
La preocupación por el uso de chatbots de inteligencia artificial por parte de jóvenes ha llevado a Meta a implementar un sistema que identificará conversaciones en las que se mencionen temas sensibles como el suicidio o las autolesiones. Cuando se detecten estas referencias, el chat será revisado manualmente antes de avisar a los padres o tutores, buscando equilibrar la precaución con el bienestar emocional de las familias.
Además, el sistema es parte de un conjunto más amplio de medidas de protección que Meta está implementando. Las restricciones para menores se ampliarán para incluir una mayor supervisión sobre las interacciones con su asistente de IA. Esto se suma a una funcionalidad ya existente en Instagram, donde los padres reciben alertas sobre búsquedas de contenidos relacionados con la salud mental de sus hijos.
Meta también está desarrollando un protocolo para contactar servicios de emergencia en casos donde se detecten riesgos inmediatos durante las conversaciones, lo que marca una evolución significativa en la responsabilidad social de las empresas tecnológicas ante la salud mental de los adolescentes en un contexto que también se discute en la Patagonia, donde el acceso a esos servicios puede ser limitado en algunas áreas.