Los fiscales generales de ocho estados de EE. UU. han demandado a OpenAI por dañar a menores y engañar a sus padres con ChatGPT, según informa Europa Press. Iowa, Arizona, Idaho, Nebraska y Virginia Occidental presentaron demandas propias, y Arkansas, Kansas y Montana se sumaron a ellas.
Acusan a la empresa de infringir las leyes de protección al consumidor de cada estado, en Iowa la Ley contra el Fraude al Consumidor, y de seguir desarrollando productos de inteligencia artificial pese a saber que requerían medidas de seguridad. La fiscal de Iowa, Brenna Bird, lo anunció en rueda de prensa.
Lo más grave es el uso que describen. Las fiscalías alertan de que ChatGPT se empleó para obtener instrucciones de autolesión e incluso de suicidio. Tim Griffin, fiscal de Arkansas y republicano, sostiene que en varios casos los usuarios esquivaron las salvaguardas y obtuvieron respuestas que la propia empresa había diseñado para bloquear. Kris Mayes, fiscal de Arizona y demócrata, señala que había indicios claros de que los menores usaban el chatbot a diario.
Que fiscales de ambos partidos coincidan ya es una señal.
OpenAI responde, por boca de su portavoz Drew Pusateri, que ha incorporado protecciones específicas por edad y que «ningún sistema puede ser perfecto». Promete trabajar con expertos en controles parentales y recordatorios de descanso. ChatGPT permite su uso desde los 13 años, con permiso de un padre o tutor hasta los 18, y verifica la edad combinando la declarada con señales de comportamiento.
Conviene recordar los límites: son acusaciones, no hay sentencia, y la información disponible no identifica el tribunal ni detalla qué piden los estados, ni describe casos individuales. Los tribunales estudian ahora si los desarrolladores de IA responden por episodios de salud mental. En Canadá, la familia de una joven gravemente herida en un tiroteo escolar también ha demandado a OpenAI.
Cuando una herramienta se abre a adolescentes sin garantías, la protección de la infancia no puede depender de la buena voluntad de la empresa. Hace falta una regulación pública, verificable y con consecuencias, porque los menores no deberían ser el banco de pruebas de nadie.
Deja un comentario