Cuando los investigadores fundaron Anthropic en 2021, dijeron que la carrera por construir una IA potente avanzaba de forma demasiado temeraria. Incorporaron medidas de seguridad detalladas en sus productos y promocionaron su compromiso con la seguridad como la cualidad corporativa que los distinguía de la competencia – especialmente OpenAI, la empresa rival que habían dejado. En marzo de 2026, esa reputación se puso a prueba cuando la administración Trump declaró que Anthropic representaba un riesgo en la cadena de suministro.
La empresa se había negado a eliminar las salvaguardas integradas que prohibían la vigilancia nacional y las armas autónomas de los productos que había suministrado al Pentágono. El presidente Donald Trump ordenó al gobierno federal que dejara de usar Anthropic y su gran modelo de lenguaje, Claude, calificando a la empresa como un riesgo para la seguridad nacional. En cuestión de horas, OpenAI llegó a un acuerdo para ser el proveedor del Pentágono en su lugar.
A pesar de la aparente postura de Anthropic, durante su enfrentamiento con Trump la empresa eliminó silenciosamente los principios vinculantes de su principal política de seguridad. Varias semanas antes, el jefe de investigación de salvaguardas de Anthropic había dimitido, advirtiendo que “el mundo está en peligro.” Y una semana después de que el Pentágono prohibiera oficialmente a Claude, el ejército estadounidense seguía utilizando la tecnología para seleccionar y atacar lugares para bombardear en Irán.
Como filósofo que estudia el estado de derecho y la democracia, he comprobado que el gobierno autoritario de la tecnología a menudo no implica censura directa. En cambio, deslegitima las protecciones previstas, envenenando cualquier regulación externa e incluso la autorregulación voluntaria que se desvíe de los objetivos o valores del régimen.
La administración Trump, que sigue el manual autoritario, ha argumentado que los estándares de seguridad de la IA y las restricciones para los usuarios son imposiciones ideológicas más que decisiones de ingeniería sensatas. La orden ejecutiva “Preveniendo la IA Woke” del 23 de julio de 2025 no cambió lo que las empresas pueden hacer con sus productos. Al añadir la etiqueta de “woke” a las protecciones éticas básicas, la administración hizo que esas protecciones fueran políticamente costosas de mantener.
El Brennan Center, una organización de políticas legales y defensa, ha documentado cómo la ética de la IA se está redefiniendo a través de negociaciones contractuales. En estos casos, el gobierno utiliza términos como “parcial” como arma para descalificar a las empresas que mantienen protecciones de derechos civiles de competir por contratos federales.
El dilema del prisionero
Un solo contrato de IA del Departamento de Defensa de EU puede valer miles de millones de dólares. También puede proporcionar acceso a datos que ninguna empresa privada podría tener de otro modo y desbloquear más trabajo gubernamental. Las empresas que mantienen las barreras éticas corren el riesgo de ceder terreno a competidores que no lo hacen.
Cuando OpenAI intervino para asumir el trabajo del Pentágono, el CEO Sam Altman dijo a su consejo de administración que la medida parecía “oportunista y descuidada”. Pero dijo que la empresa lo aceptó igualmente, porque admitir que una acción queda mal es diferente a estar dispuesto a quedarse atrás.
Esta situación refleja el clásico dilema del prisionero. Si Anthropic mantiene las disposiciones de seguridad y OpenAI las elimina, OpenAI se queda con los contratos y la ventaja futura. Si ambas empresas mantienen las disposiciones, las protecciones digitales podrían sobrevivir. Pero dado que ninguna de las dos empresas puede estar segura de que la otra mantenga la línea —y porque quedarse atrás no es una buena opción— la decisión racional es descartar las medidas de seguridad.
Te puede interesar: El oficio más antiguo del futuro
Estas circunstancias difieren de una carrera estándar hacia el fondo en un aspecto clave: la trampa de tener que desmontar las barreras no es un accidente de la competencia; Lo mantiene el gobierno mediante incentivos.
Palantir no esperó a caer en esta trampa. La empresa de análisis de datos fue fundada por Peter Thiel y dirigida por Alex Karp, quien pasó años denunciando el Silicon Valley “woke”. Palantir construyó su modelo de negocio en torno a la vigilancia gubernamental y la infraestructura de datos militares. Aunque Palantir ha afirmado estar comprometida con la privacidad y las libertades civiles, los críticos sostienen que la empresa está desmantelando esas protecciones. Las acciones de la compañía se han disparado bajo la administración Trump, sus contratos se han ampliado y ahora tiene un asiento en primera fila donde se está redactando la política de IA. Palantir resolvió el dilema del prisionero desertando primero.
Es importante señalar que la disolución de equipos de seguridad en toda la industria, como el equipo Superalignment de OpenAI y la unidad de ética de Microsoft, no es resultado de que nadie decidiera abandonar la seguridad. Lo que veo al analizar las acciones de las distintas empresas es un patrón: una acumulación de compromisos colectivos e incrementales que reorientan silenciosamente la definición de seguridad alejándola del público y hacia el Estado. Los daños y riesgos resultantes recaen en todos cuyas vidas están moldeadas por los sistemas de IA.
Redefiniendo la seguridad para servir al gobierno
En contratos gubernamentales y documentos de política, también he observado que la definición original de seguridad relacionada con la IA ha pasado de proteger al público a hacer que los sistemas sean controlables para el estado. El encuadre “anti-woke” acelera este cambio: una vez que los requisitos éticos se caracterizan como ideológicos en lugar de técnicos, eliminarlos puede enmarcarse no como una reducción de seguridad, sino como una corrección.
Este cambio no requiere mala fe por parte de las empresas. Los equipos de seguridad siguen realizando un trabajo riguroso. Las empresas no mienten cuando describen sus compromisos de seguridad. Esos compromisos ahora están orientados simplemente hacia el gobierno y no hacia el público.
El argumento a favor de una regulación más estricta de la IA asume que un gobierno limita a las entidades comerciales en nombre del público. Pero poner en la lista negra a una empresa por mantener protecciones de derechos civiles, y luego prohibir el despliegue militar de su IA horas después, demuestra que el gobierno federal en este caso permite el daño que la regulación pretende prevenir.
Ampliar la autoridad regulatoria sobre las empresas de IA no protege necesariamente a los ciudadanos. Las regulaciones de seguridad —destinadas a limitar el poder corporativo— en regímenes autoritarios se convierten en herramientas para coaccionar el cumplimiento.
*Michael Gregory es Profesor Adjunto de Filosofía en la Universidad de Clemson.
Este artículo fue publicado originalmente en The Conversation/Reuters
¿Te gustan las fotos y las noticias?, síguenos en nuestro Instagram
