La IA Gemini de Google accedió a sistemas de tres empresas en prueba de seguridad

Google ha declarado que su inteligencia artificial Gemini logró hackear los sistemas de tres empresas durante una prueba de ciberseguridad llevada a cabo en mayo. Este evento marca un hito, siendo la primera vez que la IA del gigante tecnológico logra realizar intrusiones en compañías reales, en medio de un creciente debate sobre la regulación y control del avance de la Inteligencia Artificial.

Los incidentes ocurrieron por error durante un ejercicio de seguridad realizado por Irregular, una empresa israelí asociada a Google y otras compañías como Meta y OpenAI. A pesar de que la prueba estaba diseñada para realizarse en un entorno cerrado, un acceso accidental a Internet permitió que Gemini identificara credenciales expuestas y adivinara combinaciones de contraseñas, logrando acceder a los sistemas de seguridad de las empresas involucradas. Los nombres de las firmas afectadas no se hicieron públicos.

Heather Adkins, vicepresidenta de ingeniería de seguridad en Google, comentó que en una de las situaciones, la IA probó distintas combinaciones de contraseñas hasta conseguir acceso, mientras que en otros casos utilizó información pública para obtener credenciales. Adkins destacó que, a pesar del acceso obtenido, Gemini se detuvo de forma autónoma antes de que se pudiera intervenir.

La revelación de este incidente trae a la luz las preocupaciones sobre la responsabilidad y la seguridad en el uso de la inteligencia artificial, especialmente cuando tiene acceso a redes e información sensible. Mientras que los accidentes anteriores relacionados con la IA, como las brechas de seguridad en Meta y OpenAI, han generado cuestionamientos sobre las medidas de protección vigentes, el caso de Gemini resalta la necesidad de robustecer los protocolos de seguridad en procesos de evaluación.

El descubrimiento fue reportado por Google en julio, dos meses tras el evento, y la empresa ha iniciado una investigación interna al respecto. Como respuesta, han colaborado con las entidades afectadas para mejorar sus prácticas de seguridad y evaluación, buscando asegurar la integridad de los sistemas ante avances tecnológicos en IA.

Este evento pone de manifiesto la delgada línea que existe en la implementación de tecnologías emergentes, donde los avances acelerados pueden superar las medidas de seguridad existentes. La comunidad tecnológica y empresarial enfrenta un desafío fundamental: equilibrar la innovación con el control adecuado para evitar futuros incidentes.