Los principales referentes de la inteligencia artificial han lanzado una advertencia poco habitual desde dentro de la propia industria: el desarrollo de los sistemas más avanzados está avanzando a un ritmo que puede incrementar de forma peligrosa los riesgos de descontrol. Dario Amodei, máximo responsable de Anthropic, ha pedido ralentizar el desarrollo de los modelos más potentes, una propuesta que ha recibido el respaldo de Sam Altman, Elon Musk y Demis Hassabis.
Amodei sostiene que el problema no es detener la innovación, sino conseguir que la seguridad avance al mismo ritmo que las capacidades de estos sistemas. Entre los riesgos señalados aparecen la pérdida de control sobre determinadas IA, su utilización para ciberataques y bioterrorismo y posibles alteraciones económicas de gran alcance.
La preocupación ha aumentado después de varios incidentes en los que sistemas de IA han demostrado capacidades para participar en actividades dañinas. También han surgido voces dentro de las propias compañías tecnológicas reclamando mayores garantías antes de seguir aumentando las capacidades de los modelos.
La propuesta plantea crear evaluadores independientes de seguridad, establecer estándares comunes entre las grandes empresas y avanzar hacia acuerdos internacionales. El objetivo sería evitar que la competencia comercial provoque una carrera en la que cada compañía acelere sus desarrollos por miedo a quedarse atrás.
El debate llega además en un momento de fuerte rivalidad tecnológica entre Estados Unidos y China. Mientras algunos líderes tecnológicos reclaman prudencia, Donald Trump rechaza frenar el desarrollo por considerar que hacerlo podría conceder ventaja a China.
Deja un comentario