En Estados Unidos empieza a tomar forma una idea que hasta hace poco parecía sacada de una película: obligar por ley a que los sistemas de inteligencia artificial más potentes cuenten con una especie de “interruptor de apagado”.
No se trata de un botón rojo literal al lado de un ordenador.
Lo que varios legisladores quieren es que las empresas que desarrollan IA avanzada mantengan la capacidad técnica de ralentizar, suspender o apagar sus sistemas si estos representan un riesgo grave o catastrófico. Según Axios, el senador republicano John Kennedy planeaba presentar una propuesta en ese sentido, mientras que en la Cámara de Representantes ya existe desde julio un proyecto bipartidista con una lógica parecida.
Ese proyecto de la Cámara iría incluso más lejos: además de exigir que los desarrolladores de sistemas potentes puedan detenerlos, daría al Departamento de Seguridad Nacional (DHS) autoridad de emergencia para ordenar a las compañías que reduzcan, suspendan o apaguen sistemas de IA que pudieran causar daños catastróficos.
La presión política creció en las últimas semanas por las advertencias de investigadores del propio sector. Reuters informó de que el debate en Washington se intensificó después de la renuncia del investigador de Anthropic Jacob Coxon, que alertó sobre riesgos existenciales de la IA antes de que termine la década. Al mismo tiempo, el presidente Donald Trump ha insistido en que no quiere “frenar” el desarrollo de la IA, aunque afirmó que el Departamento de Justicia podría intervenir si fuera necesario.
La discusión tiene un matiz importante: no todo el mundo cree que un “kill switch” sea fácil de aplicar en la práctica.
Axios recordó en abril que Anthropic alegó ante un tribunal federal que no dispone de visibilidad, capacidad técnica ni ningún tipo de “interruptor de apagado” sobre sus modelos una vez que estos han sido desplegados por el Pentágono en entornos clasificados. Es decir: una cosa es apagar un sistema que controlas directamente; otra muy distinta es detener copias o despliegues que ya están integrados en infraestructuras ajenas.
Por eso el debate no es solo tecnológico. También es político y social.
Si la IA va a incorporarse a escuelas, hospitales, finanzas, empleo, infraestructuras o administraciones públicas, la pregunta no puede ser únicamente cuán potente puede llegar a ser. También debe ser qué mecanismos existen para proteger a la sociedad cuando algo sale mal.
Porque una herramienta tan influyente no debería funcionar bajo una lógica simple de “confiemos en que la empresa lo gestione bien”.
Las empresas tecnológicas pueden innovar. Pero cuando sus productos afectan derechos, seguridad o servicios esenciales, la capacidad de detener daños no debería depender solo de la buena voluntad corporativa.
La idea del “interruptor de apagado” todavía está lejos de convertirse en ley definitiva.
Pero revela algo importante: incluso en el país que más ha impulsado la expansión de la IA, empieza a abrirse paso una idea básica de prudencia democrática.
Si un sistema puede alterar la vida de millones de personas, también debe existir una forma clara de frenarlo.
Deja un comentario