Estados Unidos levantó las restricciones a la exportación de los modelos Mythos de Anthropic el martes por la noche, permitiendo a la compañía comenzar a restaurar el acceso de los usuarios a sus modelos más avanzados, después de que el secretario de Comercio, Howard Lutnick, afirmara que la administración Trump trabajó con la empresa de IA para “analizar y aprobar” el modelo.
Datos clave
Anthropic lanzó Fable 5, un modelo basado en su potente modelo Mythos, a principios de junio, señalando que incluía características de seguridad que impedían a los usuarios preguntar por ciberseguridad, así como por la biología y la química necesarias para crear armas biológicas.
Sin embargo, el Departamento de Comercio obligó rápidamente a la empresa a retirar los modelos tras emitir una restricción a la exportación días después.
En una entrada de blog el martes, Anthropic proporcionó más detalles sobre las preocupaciones de seguridad que llevaron a las restricciones a la exportación en primer lugar, incluyendo la confirmación de que se produjeron después de que el gobierno “se enterara” de un informe de investigadores de Amazon, que lograron eludir con éxito los mecanismos de seguridad de Fable 5 e identificar vulnerabilidades de software. En una ocasión, los investigadores de Amazon también lograron que Fable 5 “demostrara” cómo se podía explotar una vulnerabilidad de seguridad de software.
Sin embargo, la técnica específica utilizada por los investigadores del Amazonas está ahora “bloqueada en más del 99% de los casos”, según informó Anthropic el martes.
En una segunda carta enviada al CEO Dario Amodei obtenida por varios medios, Lutnick dijo que la empresa colaboró con el gobierno para “abordar los riesgos” asociados a los nuevos modelos.
Te puede interesar: EU levanta restricciones sobre los modelos de IA Mythos 5 y Fable 5 de Anthropic
¿Cuándo volverán a estar disponibles los modelos de Mythos?
Mythos 5, la versión más potente del último modelo de Anthropic con menos salvaguardas, se puso a disposición de lo que la compañía denominó un “pequeño número de socios confiables del Proyecto Glasswing para su uso en ciberseguridad defensiva.” El Proyecto Glasswing estaba formado por un grupo más amplio de empresas que recibieron acceso anticipado a la tecnología para ayudar a identificar riesgos. Fable 5, la versión con más salvaguardas, estará disponible para el público general a partir del miércoles, según informó Anthropic.
Contra
Desde que Anthropic empezó a ofrecer destellos de su modelo Mythos a principios de este año, los críticos han criticado a la empresa por supuestamente generar expectación al hablar de lo peligroso que podría ser el modelo en manos equivocadas. Sam Altman, CEO de OpenAI, uno de los mayores rivales de Anthropic, insinuó que la empresa estaba realizando un “marketing basado en el miedo” en una aparición en el podcast Core Memory en abril. Respondiendo a una pregunta sobre los titulares generados por Mythos a principios de este año, Altman dijo: “Es, ya sabes, claramente un marketing increíble decir: ‘Hemos construido una bomba. Estamos a punto de dejártelo caer encima. Te venderemos un refugio antiaéreo por 100 millones de dólares.”
Antecedentes clave
La noticia del martes podría señalar un nuevo comienzo para Anthropic, que lleva meses en desacuerdo con la administración Trump por el uso de sus modelos de IA. En marzo, el Pentágono designó a la empresa como un riesgo en la cadena de suministro tras un enfrentamiento entre funcionarios del Departamento de Defensa y la empresa de IA, que se negó a permitir al gobierno acceso sin restricciones a sus modelos. Anthropic ha declarado repetidamente que no permitiría que sus modelos se usaran para armas autónomas o para vigilancia masiva de estadounidenses. La noticia también ofrece una señal positiva mientras la empresa se prepara para lo que podría ser una OPV espectacular.
