Anthropic presentó este lunes una demanda para impedir que el Pentágono la incluya en una lista negra de seguridad nacional, intensificando así la pujante batalla del laboratorio de inteligencia artificial con el ejército estadounidense por las restricciones de uso de su tecnología.
Anthropic afirmó en su demanda que la designación era ilegal y violaba su libertad de expresión y su derecho al debido proceso. La demanda, presentada ante un tribunal federal de California, solicitó a un juez que anulara la designación e impidiera a las agencias federales aplicarla.
“Estas acciones no tienen precedentes y son ilegales. La Constitución no permite al gobierno ejercer su enorme poder para castigar a una empresa por su libertad de expresión”, declaró Anthropic.
El jueves, el Pentágono designó formalmente a Anthropic como empresa de riesgo en la cadena de suministro, limitando el uso de una tecnología que, según una fuente, se estaba utilizando para operaciones militares en Irán.
El secretario de Defensa, Pete Hegseth, designó a Anthropic después de que la startup se negara a eliminar las restricciones que impedían el uso de su IA para armas autónomas o vigilancia doméstica. Las dos partes mantuvieron conversaciones cada vez más polémicas sobre estas limitaciones durante meses, informó Reuters inicialmente.
Representantes de Anthropic afirmaron que la demanda no impide la reapertura de las negociaciones con el gobierno estadounidense y el logro de un acuerdo. La compañía declaró que no desea enfrentarse al gobierno estadounidense. El Pentágono indicó que no haría comentarios sobre el litigio. La semana pasada, un funcionario del Pentágono declaró que las dos partes ya no mantenían conversaciones activas.
La designación representa una gran amenaza para los negocios de Anthropic con el gobierno, y el resultado podría influir en la forma en que otras empresas de inteligencia artificial negocian las restricciones al uso militar de su tecnología. Sin embargo, el director ejecutivo de la compañía, Dario Amodei, aclaró el jueves que la designación tenía un alcance limitado y que las empresas aún podían utilizar sus herramientas en proyectos no relacionados con el Pentágono.
El presidente Donald Trump también ordenó al gobierno que deje de colaborar con Anthropic, cuyos patrocinadores financieros incluyen a Google (de Alphabet) y Amazon. Trump y Hegseth afirmaron que habría una retirada gradual de seis meses.
Lee más: El CEO de Anthropic se muestra arrepentido en su última respuesta al Departamento de Guerra
Anthropic afirma que ninguna IA es ‘suficientemente fiable’ para las armas
Las acciones de Trump y Hegseth el 27 de febrero se produjeron tras meses de conversaciones con Anthropic sobre si las políticas de la compañía podrían limitar la acción militar, y poco después de que Amodei se reuniera con Hegseth con la esperanza de llegar a un acuerdo.
El Pentágono afirmó que la legislación estadounidense, y no una empresa privada, determinaría cómo defender el país e insistió en tener plena flexibilidad para usar la IA para “cualquier uso legal”, afirmando que las restricciones de Anthropic podrían poner en peligro la vida de los estadounidenses.
Anthropic afirmó que incluso los mejores modelos de IA no eran lo suficientemente fiables para las armas totalmente autónomas y que su uso para ese fin sería peligroso. La compañía también puso un límite a la vigilancia interna de los estadounidenses, calificándola de violación de los derechos fundamentales.
Tras el anuncio de Hegseth, Anthropic declaró que la designación sería legalmente inviable y sentaría un precedente peligroso para las empresas que negocian con el gobierno. La empresa afirmó que no se dejaría influir por la “intimidación ni el castigo”, y el jueves Amodei reiteró que Anthropic impugnaría la designación ante los tribunales.
También se disculpó por un memorando interno publicado el miércoles por el sitio web de noticias tecnológicas The Information. En el memorando, escrito el viernes pasado, Amodei afirmó que a los funcionarios del Pentágono no les gustaba la empresa en parte porque “no hemos elogiado a Trump como si fuera un dictador”.
El Departamento de Defensa firmó acuerdos por valor de hasta 200 millones de dólares cada uno con importantes laboratorios de inteligencia artificial el año pasado, entre ellos Anthropic, OpenAI y Google.
OpenAI, respaldada por Microsoft, anunció un acuerdo para utilizar su tecnología en la red del Departamento de Defensa poco después de que Hegseth incluyera a Anthropic en la lista negra.
El director ejecutivo, Sam Altman, dijo que el Pentágono compartía los principios de OpenAI de garantizar la supervisión humana de los sistemas de armas y oponerse a la vigilancia masiva estadounidense.
Con información de Reuters
