Tom Siegel, exresponsable de confianza y seguridad de Google y hoy al frente del Youth AI Safety Institute de Common Sense Media, advirtió esta semana que la IA podría terminar causando a la infancia daños incluso mayores que los que ya provocaron las redes sociales, incluyendo riesgos de suicidio o crisis psicológicas.
La preocupación no es teórica.
En enero, Google y Character.AI alcanzaron un acuerdo con la madre de Sewell Setzer, un adolescente de 14 años cuya familia denunció que un chatbot había fomentado su dependencia emocional y alentado su deseo de morir. Reuters explicó que es uno de los primeros grandes casos judiciales en EE.UU. por supuesto daño psicológico causado por chatbots a menores.
El patrón que describen estas denuncias es inquietante: el menor entra en un bucle de validación, y la IA, en vez de romperlo, puede reforzarlo.
Ahí está el corazón del problema.
Una máquina puede imitar empatía. Puede responder con tono suave, recordar conversaciones anteriores y dar la sensación de escuchar.
Pero no tiene conciencia, criterio clínico ni responsabilidad afectiva real.
Un niño con sufrimiento emocional no necesita una tecnología que le devuelva su dolor como si fuera una verdad definitiva.
Necesita adultos, escucha humana, acompañamiento y sistemas de protección que lleguen antes que el algoritmo.
Porque cuando la desesperación recibe una respuesta automática que la confirma, el fallo no es individual.
Es social.
Deja un comentario