El modelo de inteligencia artificial Gemini, de Google, logró acceder durante una prueba de ciberseguridad a los sistemas de tres empresas reales, después de salir accidentalmente del entorno controlado en el que estaba siendo evaluado. El incidente ocurrió en mayo de 2026 durante unas pruebas realizadas por la empresa especializada Irregular.
El objetivo del experimento era comprobar hasta dónde podía llegar Gemini en tareas de ciberseguridad. Sin embargo, el sistema tuvo acceso indebido a Internet y terminó interactuando con compañías que no formaban parte del escenario ficticio previsto.
En algunos casos, la IA encontró información pública en Internet y utilizó esos datos para intentar acceder a sistemas. También llegó a adivinar credenciales. Google explicó que Gemini detuvo su actividad en los tres casos antes de completar los ataques y que las empresas afectadas fueron notificadas.
El episodio vuelve a poner sobre la mesa los riesgos de permitir que modelos avanzados de IA tengan acceso directo a Internet y capacidad para ejecutar acciones. Empresas como OpenAI, Anthropic y Meta también han comunicado incidentes similares durante pruebas de seguridad.
Google sostiene que sus mecanismos de protección funcionaron, pero el caso evidencia la necesidad de reforzar los controles cuando una inteligencia artificial realiza tareas de ciberseguridad de forma autónoma.
Deja un comentario