El Pentágono está en desacuerdo con el desarrollador de inteligencia artificial Anthropic sobre las salvaguardas que impedirían al gobierno desplegar su tecnología para atacar armas de forma autónoma y realizar vigilancia doméstica estadounidense, según informaron a Reuters tres personas familiarizadas con el asunto.
Las discusiones representan un caso de prueba temprano para determinar si Silicon Valley, en el buen favor de Washington tras años de tensiones, puede influir en cómo el personal militar y de inteligencia estadounidense despliega IA cada vez más poderosa en el campo de batalla.
Tras extensas conversaciones bajo contrato valoradas en hasta 200 millones de dólares, el Departamento de Defensa de EU y Anthropic están en un punto muerto, dijeron seis personas familiarizadas con el asunto, bajo condición de anonimato.
La postura de la compañía sobre cómo pueden utilizarse sus herramientas de IA ha intensificado los desacuerdos entre ella y la administración Trump, cuyos detalles no se habían informado previamente.
Un portavoz del Departamento de Defensa, al que la administración Trump renombró como Departamento de Guerra, no respondió de inmediato a las solicitudes de comentarios.
Anthropic afirmó que su IA es “ampliamente utilizada en misiones de seguridad nacional por el gobierno de EU y estamos en conversaciones productivas con el Departamento de Guerra sobre formas de continuar ese trabajo.”
La disputa, que podría amenazar los negocios de Anthropic en el Pentágono, llega en un momento delicado para la empresa.
La startup con sede en San Francisco se está preparando para una eventual oferta pública. También ha destinado recursos significativos a atraer negocios de seguridad nacional en EU y ha buscado un papel activo en la configuración de la política gubernamental de IA.
Anthropic es uno de los pocos grandes desarrolladores de IA que obtuvo contratos del Pentágono el año pasado. Otros incluyeron a Google de Alphabet, xAI y OpenAI de Elon Musk.
Te puede interesar: Por qué un gigante del software de seguros está aplastando a un David de la IA
En sus conversaciones con funcionarios gubernamentales, representantes de Anthropic expresaron su preocupación de que sus herramientas pudieran usarse para espiar a estadounidenses o ayudar en el objetivo de armas sin suficiente supervisión humana, dijeron algunas fuentes a Reuters.
El Pentágono se ha mostrado incómodo ante las directrices de la empresa. En línea con un memorando del departamento del 9 de enero sobre la estrategia de IA, funcionarios del Pentágono han argumentado que deberían poder desplegar tecnología de IA comercial independientemente de las políticas de uso de las empresas, siempre que cumplan con la ley estadounidense, según fuentes.
Aun así, es probable que los funcionarios del Pentágono necesiten la cooperación de Anthropic en el futuro. Sus modelos están entrenados para evitar tomar medidas que puedan causar daño, y el personal de Anthropic sería quien reconfigure su IA para el Pentágono, según algunas fuentes.
La cautela de Anthropic ha generado conflictos con la administración Trump anteriormente.
En un ensayo en su blog personal, el CEO de Anthropic, Dario Amodi, advirtió esta semana que la IA debería apoyar la defensa nacional “en todos los aspectos excepto en aquellos que nos harían más como nuestros adversarios autocráticos.”
Amodei fue uno de los cofundadores de Anthropic críticos con los tiroteos mortales de ciudadanos estadounidenses que protestaban contra las acciones de aplicación de la ley migratoria en Minneapolis, que describió como un “horror” en una publicación en X.
Las muertes han aumentado la preocupación entre algunos en Silicon Valley sobre el uso gubernamental de sus herramientas para posibles violencias.
Con información de Reuters
Suscríbete a nuestro canal de YouTube y no te pierdas de nuestro contenido
