Estados Unidos va un paso más allá en el control de las herramientas de inteligencia artificial más disruptivas. La compañía Anthropic ha anunciado la suspensión generalizada del acceso público a sus modelos más avanzados, el Fable 5 y Mythos 5, para cumplir con una directiva de control de exportaciones dictada este pasado viernes por la Administración Trump que le obliga a impedir el acceso a este nuevo servicio a ciudadanos extranjeros por motivos de seguridad nacional.
La empresa relata que este viernes a las 17.21, hora local de la costa este, recibió una carta del secretario de Comercio, Howard Lutnick, con la directiva que impide el suministro de sus modelos de IA más avanzados a ciudadanos extranjeros, incluidos los que residan en Estados Unidos. La prohibición afecta incluso a los trabajadores extranjeros de Anthropic, que en teoría no podrán acceder a las aplicaciones que ellos mismos crearon. Ante la imposibilidad de discriminar por nacionalidad, la empresa decidió una retirada generalizada de sus modelos.
El control a la exportación es la medida más agresiva adoptada hasta ahora por el Gobierno estadounidense para restringir el acceso a las herramientas más avanzadas de IA. Es un reflejo del estricto control sobre la industria de la inteligencia artificial. Las herramientas de IA están alcanzando una sofisticación inimaginable hace tan solo dos años. La Casa Blanca considera que las versiones más avanzadas de IA son una cuestión de seguridad nacional y un riesgo de ciberseguridad. Y las trata como tal, limitando su acceso a extranjeros con un enfoque militar que amenaza con trastocar el futuro de un sector que prepara un carrusel de salidas a Bolsa en busca de más financiación para seguir en la carrera por el dominio de la IA.
La medida sobre Anthropic es el último ejemplo de la preocupación de la Administración estadounidense por el desarrollo de la IA, cuyos modelos está utilizando en la guerra de Irán y en otras operaciones militares. Las capacidades que tienen estas herramientas para encontrar fallos en los sistemas informáticos y rendijas por las que colarse para obtener información los convierten en una potente arma para los ciberdelincuentes.
La compañía dirigida por Dario Amodei argumenta que el Gobierno estadounidense no ha explicado “los motivos de su preocupación por la seguridad nacional”. Pero la empresa achaca la medida extrema a que la Administración cree haber encontrado una vulnerabilidad de seguridad en su potente modelo Fable 5, una versión actualizada y limitada de su controvertido hermano mayor Mythos 5, la superherramienta que está bajo restricción por su capacidad para detectar vulnerabilidades en los sistemas informáticos más avanzados del mundo.
Anthropic creó hace un par de meses el proyecto Glasswing para limitar el uso de Mythos 5 a un reducido número de empresas al objeto de que fueran identificando y corrigiendo vulnerabilidades y bloqueando cualquier brecha de seguridad. Decenas de compañías de sectores críticos como el financiero, energético y de telecomunicaciones, así como gobiernos de medio mundo, están experimentando con esta herramienta para reforzar la seguridad de sus sistemas. Y aunque la compañía aseguró que el acceso a Mythos sería muy limitado, cada vez más empresas y usuarios han podido acceder a las capacidades de la versión más avanzada de su IA. La nueva restricción de la Casa Blanca se produce días después de que Anthropic decidiera poner a disposición de sus suscriptores del servicio Claude el modelo Fable 5, una secuela algo descafeinada de Mythos.
La empresa asegura que Fable 5 es una versión calificada como “segura” de Mythos, diseñada para el uso general y contiene salvaguardas y restricciones para evitar su uso indebido. “Sus capacidades exceden las de cualquier otro modelo que hayamos abierto al público. Es especialmente bueno en el diseño de software, investigación científica y otros trabajos complejos”, describió la propia compañía en su blog cuando anunció el lanzamiento del modelo.
La empresa, que recientemente comunicó su intención de salir a Bolsa, ha expresado su descontento con la decisión de la Casa Blanca. “No estamos de acuerdo en que el descubrimiento de una posible vulnerabilidad limitada deba ser motivo para retirar un modelo comercial implementado para cientos de millones de personas. Si este criterio se aplicara a toda la industria, creemos que paralizaría prácticamente todos los nuevos lanzamientos de modelos para todos los proveedores de modelos de vanguardia”, señala a través de un extenso comunicado.
Las disputas entre Anthropic y la Administración Trump no son nuevas. Hace apenas tres meses, el Departamento de Defensa calificó a la empresa como “un riesgo para la cadena de suministro”. Una medida extraordinaria que le impide contratar con la Administración federal debido a la negativa de Dario Amodei a que el Pentágono, con quien tenía suscrito un jugoso contrato, pudiera utilizar todas las capacidades, sin límites, de su sistema de IA. El líder de Anthropic fijó dos líneas rojas: su modelo no se podrá utilizar para el espionaje masivo de ciudadanos ni para la gestión de armas autónomas sin supervisión humana. Las diferencias entre el Gobierno y la empresa terminaron en los tribunales, pero los progresos de la IA de Anthropic, considerada la más avanzada, y la necesidad de la Administración de contar con los sistemas más modernos han limado las asperezas.
La noticia de la suspensión ya deja reacciones al otro lado del Atlántico. Desde Bruselas, la Comisión Europea se ha limitado, por el momento, a “tomar nota” de lo dicho por la tecnológica estadounidense, y señalar que varios de los modelos de IA que están llegando a los mercados, si bien ofrecen capacidades significativas, también plantean “graves preocupaciones en materia de ciberseguridad”. “Seguimos manteniendo conversaciones con nuestros aliados sobre estos modelos”, asegura la Comisión, informa Manuel V. Gómez. El Ejecutivo de la UE ha estado en contacto con la empresa desde hace meses para que compañías y bancos europeos tuvieran acceso a Mythos.
Endurecimiento del control
Los temores sobre los riesgos de la IA han llevado al Gobierno estadounidense a endurecer el control sobre los modelos antes de su lanzamiento. El presidente estadounidense, Donald Trump, dictó hace unas semanas una orden ejecutiva para otorgar a los funcionarios de seguridad nacional y ciberseguridad un mayor control durante la evaluación de los modelos y las vulnerabilidades cibernéticas. La administración lleva semanas negociando con Anthropic sobre quién tiene acceso a su herramientas más avanzada, que puede suponer un riesgo para la ciberseguridad, según The Wall Street Journal.
“Como hemos dicho públicamente, creemos que el Gobierno debe tener la capacidad de bloquear desarrollos inseguros como parte de un proceso transparente, justo, claro y basado en factores técnicos. Esta acción no se adhiere a esos principios”, criticó la firma.
La compañía aduce que las vulnerabilidades que puede presentar Fable 5 son conocidas y con alcance limitado, similares a otras herramientas del mercado, como las de su archirrival OpenAI. “Hemos implementado estrictas medidas de seguridad que reducen considerablemente la probabilidad de que Fable se utilice indebidamente para tareas relacionadas con la ciberseguridad (entre otras). De hecho, nuestras medidas de seguridad son tan estrictas que muchos usuarios se han quejado de que son excesivamente amplias”, sostiene la empresa.
Pero cuando Anthropic presentó Fable 5 reconoció que su potencial en el terreno de la ciberseguridad se podría utilizar para “causar mucho daño”. El sector financiero fue el primero en echarse a temblar: si esa herramienta cayera en malas manos, las pasarelas de pago o las cuentas corrientes de sus clientes podrían estar en peligro. Por eso, los desarrolladores limitaron la capacidad del modelo, de manera que, cuando le hicieran preguntas sobre determinados temas, la respuesta que se devuelva sería “proceda de nuestro siguiente modelo más capaz, Claude Opus 4.8”, para evitar así su uso delictivo.
La compañía también admite que “ningún probador ha podido encontrar todavía un jailbreak universal, un método que pueda eludir de forma muy amplia las medidas de seguridad del modelo y desbloquear una amplia gama de capacidades cibernéticas". Llegados a este punto, lo que está claro es que el debate entre la seguridad y el desarrollo tecnológico está más vivo que nunca debido a los avances de la IA, una tecnología que amenaza con cambiar el mundo tal y como lo conocemos.