Caitlin Kalinowski, líder del equipo de hardware e ingeniería robótica en OpenAI, dijo que deja la empresa, escribiendo en una publicación en redes sociales que su elección “fue por principios” después de que el CEO de OpenAI, Sam Altman, llegara a un acuerdo con el Departamento de Defensa para utilizar su tecnología en operaciones militares.
Datos clave
Kalinowski, contratada en 2024 desde Meta, dijo en X que su decisión no fue fácil: “La IA tiene un papel importante en la seguridad nacional. Pero la vigilancia de estadounidenses sin supervisión judicial y la autonomía letal sin autorización humana son líneas que merecían más deliberación de la que recibieron.”
Su decisión llega cuando OpenAI afirmó esta semana que su tecnología podría apoyar trabajos relacionados con la defensa, incluyendo ciberseguridad, análisis de inteligencia y logística, áreas que el ejército considera aplicaciones críticas para la IA.
El acuerdo ha recibido críticas de algunos empleados de OpenAI e investigadores de IA, que advierten que expandir la inteligencia artificial a operaciones militares conlleva riesgos relacionados con la vigilancia y las armas autónomas.
La colaboración entre OpenAI y el Departamento de Defensa llega después de que la administración Trump se alejara de trabajar con Anthropic, que el Pentágono calificó formalmente como un riesgo en la cadena de suministro.
Kalinowski dijo en X que su problema con el anuncio de OpenAI fue que se hizo con prisas, escribiendo que se hizo “sin las barreras de seguridad definidas”.
Cita crucial
“Creemos que nuestro acuerdo con el Pentágono crea una vía viable para usos responsables de la IA en la seguridad nacional, dejando claras nuestras líneas rojas: sin vigilancia doméstica ni armas autónomas”, declaró OpenAI en un comunicado a Tech Crunch confirmando la dimisión de Kalinowski. Reconocemos que la gente tiene opiniones firmes sobre estos temas y seguiremos dialogando con empleados, gobierno, sociedad civil y comunidades de todo el mundo.”
Te puede interesar: Anthropic demanda para bloquear la inclusión del Pentágono en la lista negra por restricciones al uso de IA
ChatGPT enfrentando una reacción negativa
La controversia provocó una reacción negativa entre los usuarios de ChatGPT, que eliminaron la popular aplicación de IA en oleadas. Tech Crunch informó de que las desinstalaciones de la aplicación móvil de ChatGPT aumentaron un 295% el día después de anunciarse el acuerdo con el Departamento de Defensa. En respuesta, Altman dijo que el acuerdo fue “apresurado”, escribiendo que parecía “oportunista y descuidado”. El acuerdo fue modificado y ahora establece que los sistemas impulsados por ChatGPT “no deben ser utilizados intencionadamente para la vigilancia doméstica de personas y nacionales estadounidenses.” Las desinstalaciones de ChatGPT coincidieron con un aumento de descargas de Claude de Anthropic, que subió alrededor de un 55% semana tras semana hasta el 2 de marzo.
Antecedentes clave
El Pentágono trabajó inicialmente con Anthropic, que quiere mantener estrictas salvaguardas sobre cómo el gobierno utiliza sus modelos, como parte de un esfuerzo por incorporar la IA en la planificación militar. Pero la administración Trump canceló su contrato con Anthropic porque el desarrollador de Claude no permitía que el ejército usara su tecnología de IA para alimentar armas autónomas o vigilancia masiva. Este cambio allanó el camino para que OpenAI profundice su relación con el Departamento de Defensa, después de que la empresa—junto con Anthropic, Google y xAI—firmara un contrato de 200 millones de dólares con el Pentágono el pasado junio para desarrollar herramientas de IA con fines de seguridad nacional.
Un exlíder antrópico advertido sobre el mundo ‘en peligro’
La disputa entre el Pentágono y Anthropic también se desarrolló dentro de la propia empresa. En febrero, el líder de investigación en salvaguardas antrópicas, Mrinank Sharma, anunció que dejaba la empresa, advirtiendo en una carta de dimisión que el “mundo está en peligro” en medio de los crecientes riesgos ligados a la IA y los desafíos globales de seguridad. Sharma dijo que los equipos de seguridad estaban cada vez más presionados a medida que las empresas se apresuraban a desplegar potentes sistemas de IA. La salida se sumó a una serie de advertencias de investigadores en IA que han instado a las empresas a ralentizar el desarrollo o a imponer normas más estrictas sobre el uso de la tecnología.
Este artículo fue publicado originalmente en Forbes US
¿Te gustan las fotos y las noticias?, síguenos en nuestro Instagram
