Cientos de empleados actuales de Google y OpenAI firmaron una carta abierta expresando su apoyo a la negativa de Anthropic a cumplir con la demanda del Pentágono de acceso sin restricciones a sus herramientas de IA y instando a los líderes de sus propias empresas a mantener líneas rojas similares y rechazar las demandas del Departamento de Defensa.
Datos clave
Hasta la mañana del viernes, la petición titulada “No Seremos Divididos” ha sido firmada públicamente por 266 empleados de Google y 65 de OpenAI, todos ellos empleados actuales.
Citando un informe de Axios, la carta acusa al Departamento de Defensa de perseguir a Anthropic por “mantener sus líneas rojas para no permitir que sus modelos se utilicen para vigilancia masiva doméstica y matar personas de forma autónoma sin supervisión humana.”
La carta señala que el Pentágono está negociando actualmente con Google y OpenAI “para intentar que acepten lo que Anthropic ha rechazado.”
Los firmantes acusan al Pentágono de intentar “dividir cada empresa con miedo a que la otra ceda” y afirman: “Esta carta sirve para crear comprensión compartida y solidaridad frente a esta presión.”
La petición insta entonces a OpenAI y a los líderes de Google a “dejar de lado sus diferencias y unirse para seguir rechazando” las demandas del Pentágono.
Te puede interesar: Netflix se baja de la pelea por Warner Bros Discovery
Tangente
El jueves, The New York Times informó que más de 100 empleados de Google que trabajan en IA firmaron una carta interna a la dirección de la empresa, expresando preocupaciones sobre el plan del Pentágono para utilizar sus herramientas de IA. La carta enviada a Jeff Dean, científico jefe de la división de IA de Google, DeepMind, instaba a la empresa a hacer eco de las demandas de Anthorpic. “Por favor, haz todo lo posible para detener cualquier acuerdo que cruce estas líneas rojas básicas… Nos encanta trabajar en Google y queremos sentirnos orgullosos de nuestro trabajo”, decía supuestamente la carta.
¿Qué ha dicho Anthropic sobre su enfrentamiento con el Pentágono?
En un comunicado emitido el jueves, el CEO de Anthropic, Dario Amodei, redobló sus líneas rojas y afirmó que su empresa “no puede, en buena conciencia” acceder” a la petición del Pentágono de eliminar sus salvaguardas y permitir “cualquier uso legal” de sus herramientas de IA. El comunicado detallaba el trabajo que Anthropic ha realizado para desplegar sus modelos para la comunidad militar y de inteligencia estadounidense, pero afirmaba que cree que hay un “conjunto limitado de casos, creemos que la IA puede socavar, en lugar de defender, los valores democráticos.” Como resultado, sus contratos con el Departamento de Defensa han incluido dos salvaguardas que impiden el uso de su IA en “vigilancia doméstica masiva” y “armas totalmente autónomas”, donde no se requiere intervención humana para su despliegue.
Cita crucial
“La vigilancia masiva impulsada por IA presenta riesgos serios y novedosos para nuestras libertades fundamentales. En la medida en que dicha vigilancia sea actualmente legal, esto es solo porque la ley aún no ha alcanzado las capacidades en rápido crecimiento de la IA”, dijo Amodei en su comunicado. También añadió: “Hoy en día, los sistemas de IA de vanguardia simplemente no son lo suficientemente fiables para alimentar armas totalmente autónomas. No proporcionaremos a sabiendas un producto que ponga en riesgo a los combatientes y civiles estadounidenses.”
Este artículo fue publicado originalmente en Forbes US
¿Te gustan las fotos y las noticias?, síguenos en nuestro Instagram
