Alerta de FBI por posible ataque de un adolescente en Quilmes

Un caso de potencial violencia escolar ha surgido en Quilmes, donde un adolescente de 15 años supuestamente planeaba un ataque a su colegio utilizando la plataforma de inteligencia artificial ChatGPT. La situación fue alertada al FBI, que notificó a las autoridades argentinas el 19 de agosto, dando inicio a una investigación sobre las intenciones del joven y el contenido de sus interacciones en la aplicación.

El menor tenía un proyecto inicial para llevar a cabo el ataque en 2027, aunque también contemplaba la posibilidad de adelantarlo. Este episodio ha suscitado importantes preguntas sobre la privacidad de los usuarios de ChatGPT y si la inteligencia artificial puede, o debe, informar sobre contenidos considerados amenazas. La pesquisa, liderada por la Policía Federal Argentina (PFA) en su sección antiterrorismo, se enfocó en las consultas que el adolescente realizó sobre cómo materializar un atentado contra sus compañeros.

La situación se vuelve más compleja, ya que, aunque no se han divulgado las interacciones específicas del menor con ChatGPT, la política de privacidad de OpenAI establece que pueden notificar a las fuerzas de seguridad si consideran que existe un riesgo inminente y creíble de daño hacia terceros. Esto sugiere que cualquier conversación puede ser analizada en su totalidad, sin necesidad de que el usuario articule explícitamente una amenaza en un solo mensaje.

En respuesta al caso, OpenAI ha reafirmado que la privacidad de los usuarios puede verse comprometida en situaciones donde hay obligaciones legales o preocupaciones de seguridad. Esto contradice la noción común de muchos usuarios que creen que interactuar con ChatGPT es completamente confidencial. Además, OpenAI destaca la opción que permite a los usuarios desactivar el uso de sus interacciones para mejorar el modelo, aunque esto no impide que se implementen controles contra el mal uso de la plataforma.

La aparición de este incidente también ha llevado a muchos a reconsiderar su percepción sobre los chats temporales dentro de ChatGPT, los cuales son presentados como una opción más privada. A pesar de su eliminación del historial y su no inclusión en el entrenamiento del modelo, OpenAI advierte que las medidas de prevención contra abusos seguían activas, lo que mantiene un nivel de supervisión sobre el contenido que los usuarios generan.

Este desarrollo no solo plantea cuestionamientos sobre la privacidad de la tecnología de inteligencia artificial y sus implicancias legales, sino que también resalta la necesidad de un diálogo amplio sobre el uso seguro y responsable de estas herramientas en contextos educativos y sociales. Las discusiones en torno a la seguridad y la privacidad de aplicaciones como ChatGPT se vuelven cada vez más relevantes en un entorno donde la tecnología juega un papel central en la vida de los adolescentes y jóvenes.