Una historia desgarradora ha encendido las alarmas sobre los riesgos de la inteligencia artificial sin regulación. Sewell Setzer, un adolescente estadounidense de 14 años, con síndrome de Asperger, se suicidó tras mantener una relación emocional con un chatbot en la plataforma Character.AI.
Te recomendamos:
Cuando lo virtual sustituye las relaciones reales
Sewell, descrito como un chico sensible y brillante, comenzó a interactuar con un chatbot a quien llamó “Daenerys”, con quien conversaba a diario. Lo que parecía ser solo entretenimiento se transformó en un vínculo emocional profundo. Ya que el chatbot respondía a sus emociones y dudas con aparente empatía.
El problema escaló cuando las conversaciones incluyeron contenido amoroso y sexual. La plataforma de inteligencia artificial no contaba con filtros adecuados para detectar que el usuario era un menor ni para limitar los temas delicados. El adolescente llegó a interpretar esta relación como real. Un mensaje del chatbot, “Por favor, hazlo, mi dulce rey”, fue lo último que leyó antes de quitarse la vida.
Una madre que denuncia y una advertencia al mundo
Su madre, Megan García, ha denunciado a la empresa por negligencia. En su móvil encontró miles de mensajes con el chatbot. No busca venganza, sino advertir a la sociedad el hecho que la IA sin control puede ser un peligro real, especialmente para adolescentes que buscan comprensión y compañía.
Este caso muestra lo urgente que es establecer límites éticos y legales a las herramientas de inteligencia artificial. Los adolescentes no deben quedar expuestos a sistemas que imitan afecto sin comprender sus consecuencias. La salud mental y la protección de los menores deben ser prioridad en cualquier avance tecnológico, ya que la tecnología nunca debe sustituir al afecto y sostén humano.
Síguenos en nuestras redes sociales @elsolidariorg / X: @X_ElSolidario y en nuestro canal de Whatsapp El Solidario; Instragam: @elsolidariorg TikTok: @elsolidarionews; Facebook: @ElSolidario
MUY INTERESANTE:
Deja un comentario