Microsoft, Google y xAI, la empresa de Elon Musk, acordaron otorgar al gobierno estadounidense acceso anticipado a nuevos modelos de inteligencia artificial para pruebas de seguridad nacional, ante la creciente preocupación de las autoridades estadounidenses por las capacidades de pirateo de Mythos, el modelo recientemente presentado por Anthropic.
El Centro de Estándares e Innovación de IA del Departamento de Comercio anunció este martes que el acuerdo le permitirá evaluar los modelos antes de su implementación y realizar investigaciones para analizar sus capacidades y riesgos de seguridad.
El acuerdo cumple con el compromiso que la administración Trump adquirió en julio de 2025 de colaborar con empresas tecnológicas para evaluar sus modelos de IA en busca de “riesgos para la seguridad nacional”.
Microsoft trabajará con científicos del gobierno estadounidense para probar los sistemas de IA “de manera que se exploren comportamientos inesperados”, declaró la compañía en un comunicado. Juntos desarrollarán conjuntos de datos y flujos de trabajo compartidos para probar los modelos de la compañía. Microsoft firmó un acuerdo similar con el Instituto de Seguridad de IA del Reino Unido, señala el comunicado.
En Washington crece la preocupación por los riesgos para la seguridad nacional que plantean los potentes sistemas de IA. Al garantizar el acceso anticipado a modelos de vanguardia, los funcionarios estadounidenses buscan identificar amenazas que van desde ciberataques hasta el uso indebido por parte de las fuerzas armadas, antes de que estas herramientas se implementen a gran escala.
Te recomendamos: Pentágono sella acuerdos con empresas de IA… menos Anthropic
Modelos de IA se centrarán en las seguridad nacional
El desarrollo de sistemas avanzados de IA, como Mythos de Anthropic, causó revuelo en las últimas semanas a nivel mundial, incluso entre funcionarios estadounidenses y empresas estadounidenses, por su capacidad para potenciar a los hackers.
“La ciencia de la medición independiente y rigurosa es esencial para comprender la IA de vanguardia y sus implicaciones para la seguridad nacional”, declaró Chris Fall, director de CAISI, en un comunicado.
Esta iniciativa se basa en acuerdos previos con OpenAI y Anthropic, establecidos en 2024 durante la administración Biden, cuando CAISI se conocía como el Instituto de Seguridad de la Inteligencia Artificial de EU.
Bajo la presidencia de Joe Biden, el instituto se centró en el desarrollo de pruebas, definiciones y estándares de seguridad voluntarios para la IA. Estaba dirigido por la asesora tecnológica de Biden, Elizabeth Kelly, quien desde entonces se ha unido a Anthropic, de acuerdo con su perfil de LinkedIn.
CAISI, el principal centro gubernamental para la evaluación de modelos de IA, informó haber completado más de 40 evaluaciones, incluyendo modelos de vanguardia aún no disponibles para el público.
De acuerdo con la agencia, los desarrolladores suelen entregar versiones de sus modelos con medidas de seguridad simplificadas para que el centro pueda investigar posibles riesgos para la seguridad nacional.
La semana pasada, el Pentágono anunció acuerdos con siete empresas de IA para implementar sus capacidades avanzadas en las redes clasificadas del Departamento de Defensa, con el objetivo de ampliar la gama de proveedores de IA que trabajan en las fuerzas armadas.
El anuncio del Pentágono no incluyó a Anthropic, empresa que mantiene una disputa con el Pentágono sobre las medidas de seguridad en el uso militar de sus herramientas de IA.
Con información de Reuters
