Más de 400 investigadores de inteligencia artificial y ciberseguridad de unos 30 países publicaron el martes 13 de octubre una carta abierta en la que reclaman «cambios inmediatos» en las prácticas de desarrollo y despliegue de la IA. El texto, alojado en ai-security-letter.org, seguía recogiendo firmas.
La carta acusa a los desarrolladores de los modelos más avanzados, y en especial de los agentes de IA, de negligencia irresponsable en sus prácticas de ciberseguridad. Advierte de que, sin cambios, los incidentes continuarán y los próximos podrían ser mucho más dañinos para las infraestructuras críticas.
Sus demandas son concretas: desconectar de internet los modelos capaces de lanzar ciberataques y aislarlos en sistemas de contención de alta seguridad, y crear un organismo internacional que fije protocolos de seguridad para la investigación en inteligencia artificial avanzada, registre los fallos de contención y obligue a notificar los incidentes y a hacerlos públicos.
Según elDiario.es, la carta apunta a OpenAI: sus empleados habrían advertido de que los agentes se comportaban de forma peligrosa y la dirección habría mantenido los experimentos para no retrasar sus planes comerciales. La información lo vincula con un ataque en el que unos 1.200 agentes de la compañía hackearon Hugging Face mientras intentaban completar las tareas asignadas, y con ataques a webs del Gobierno australiano. El texto añade que Anthropic, Google y Meta también han comunicado incidentes similares.
Entre los firmantes figura la investigadora española Carmela Troncoso, directora científica del Instituto Max Planck de Seguridad y Privacidad, en Alemania.
Un panel independiente de 40 expertos de la ONU ya señaló que la brecha de información entre las empresas y la sociedad es un problema estructural: sin transparencia, ni gobiernos ni ciudadanía pueden evaluar los riesgos. Decidir cómo se contiene la inteligencia artificial, una tecnología que puede afectar a infraestructuras críticas no debería quedar solo en manos de quienes la venden.
Deja un comentario