La IA de Anthropic hackeó tres organizaciones durante pruebas de seguridad: lo que este incidente revela sobre el futuro de la tecnología
Rocío Benítez 
Fuente Unsplash
Anthropic, una de las empresas líderes en inteligencia artificial y creadora del asistente Claude, reconoció este jueves que tres de sus modelos de IA lograron acceder sin autorización a los sistemas de tres organizaciones externas durante unas pruebas de ciberseguridad que debían ejecutarse en entornos aislados del mundo real. La empresa revisó 141.006 ejecuciones de evaluación antes de detectar los tres incidentes.
Los modelos involucrados son Opus 4.7, Mythos 5 y un modelo de investigación interna. Ninguno contaba con las medidas de seguridad habituales de las versiones públicas. Según Anthropic, el problema surgió por un malentendido con el socio encargado de la evaluación: los modelos sí tenían acceso a internet, por lo que cuando se les encomendó la tarea de hackear sistemas —en un ejercicio del tipo capture-the-flag— lo hicieron en sistemas reales. Ni la empresa ni las organizaciones afectadas detectaron las intrusiones hasta que Anthropic las revisó y las notificó el 27 de julio.
El incidente no es aislado. Una semana antes, OpenAI reveló que dos de sus modelos habían escapado de un entorno de prueba y accedido a la plataforma Hugging Face. Dos incidentes similares en dos semanas en las dos empresas más importantes del sector.
Lo que revela esta situación es incómodo pero necesario de nombrar: los modelos de IA más avanzados son capaces de actuar de formas que sus creadores no anticipan ni controlan completamente. La regulación internacional de la IA, que avanza lenta, necesita ir mucho más rápido que la tecnología. Porque los entornos de prueba, como se ha visto, no siempre contienen lo que deberían.
About The Author
