EE.UU. prohíbe el uso internacional de la IA de Anthropic por motivos de "seguridad nacional"

La empresa de inteligencia artificial (IA) Anthropic ha anunciado la suspensión del acceso a sus modelos más avanzados, 'Claude Fable 5' y 'Mythos 5', en cumplimiento de una directiva de control de exportaciones del gobiernoestadounidense que restringe su uso a cualquier ciudadano extranjero, ya sea dentro o fuera de Estados Unidos, por motivos de "seguridad nacional".

A través de un comunicado oficial, la compañía estadounidense ha explicado que la orden ejecutiva no detalla los motivos específicos de la restricción, aunque deducen que las autoridades creen haber descubierto un método para eludir los límites de seguridad del programa.

"Hoy recibimos la directiva del gobierno. La carta no especificaba los motivos de su preocupación por la seguridad nacional. Entendemos que el gobierno cree haber descubierto un método para eludir, o desbloquear, Fable 5", han informado.

Estrictas salvaguardas

Anthropic ha defendido que el modelo ya contaba con estrictas salvaguardas para reducir el riesgo de uso indebido en tareas de ciberseguridad, y ha criticado que la Casa Blanca solo les notificase las presuntas vulnerabilidades del sistema de manera verbal.

"Como hemos manifestado públicamente, creemos que el Gobierno debería tener la facultad de bloquear despliegues inseguros, mediante un proceso legal transparente, justo, claro y basado en hechos técnicos. Esta acción no se ajusta a dichos principios", han denunciado.

El veto gubernamental se produce apenas dos días después de que Anthropic lanzara 'Claude Fable 5' como el primer modelo disponible de la clase 'Mythos', una tecnología de alta capacidad distribuida exclusivamente de forma restringida para organizaciones asociadas al programa 'Project Glasswing'.

Para evitar usos maliciosos, la empresa había implementado un sistema de contención que limita de forma automática las respuestas ante consultas sensibles sobre ciberseguridad, biología o química. En lugar de procesar información potencialmente peligrosa, el sistema redirige de forma interna este tipo de solicitudes hacia un modelo de IA de menor capacidad.

Con este protocolo, la compañía buscaba ofrecer asistencia general en dichas materias pero bloqueando la entrega de datos críticos que pudieran ser instrumentalizados para ejecutar ciberataques a gran escala o desarrollar armas biológicas.