Dario Amodei, director general y cofundador de Anthropic, compañía que se encuentra entre las principales en cuanto al desarrollo de la inteligencia artificial, ha emitido una dura advertencia acerca del peligro que supone el rápido progreso de la IA.
El ensayo, titulado “The Adolescence of Technology: Confronting and Overcoming the Risks of Powerful AI” (La adolescencia de la tecnología: afrontar y superar los riesgos de la IA poderosa), explica que la tecnología de IA está cambiando a tal velocidad que podría sobrepasar la habilidad de los gobiernos y reguladores para controlarla adecuadamente.
El director ha indicado que esta circunstancia es un “rito de paso, inevitable y turbulento” que “pondrá a prueba quiénes somos como especie”.
Una prueba para las instituciones y la sociedad
El director ejecutivo de Anthropic alerta que la inteligencia artificial avanzada podría hacer más graves problemas que ya existen, como la concentración de poder económico y tecnológico en pocas manos, tanto las de empresas como las del Estado.
También recuerda que estas herramientas podrían ser utilizadas para reforzar sistemas de vigilancia masiva o para fines maliciosos, en un contexto en el que los controles actuales resultan insuficientes.
La automatización de tareas cognitivas podría traer consigo la eliminación de muchos empleos y requerir una gran reestructuración de los sistemas laborales y de protección social, algo que sin duda alguna afectaría al mundo laboral.
Pese al tono de alarma, Amodei subraya que este escenario no es inevitable. En el ensayo sostiene que si se actúa con rapidez y coordinación, aún es factible disminuir los peligros, estableciendo reglas claras de transparencia, seguridad y supervisión para los sistemas de IA más avanzados.
El ejecutivo exige que los gobiernos se involucren más, que la cooperación internacional sea más intensa y que las compañías tecnológicas se comprometan decididamente a anteponer la seguridad a la competencia por lanzar modelos cada vez más poderosos.
