El director ejecutivo de Anthropic, Dario Amodei, expresó este miércoles a Bloomberg su incertidumbre sobre el papel que desempeñó el modelo de IA Claude en el ataque con misiles que, según informes, causó la muerte de unos 120 niñas en una escuela primaria iraní a finales de febrero, lo que plantea interrogantes sobre el uso de sistemas de IA cada vez más sofisticados durante las operaciones militares en Irán.
Datos clave
“Miren, no tenemos acceso a la información, no sabemos con exactitud cómo se utilizaron estos modelos”, declaró Amodei en una entrevista con Bloomberg.
El director ejecutivo de Anthropic también afirmó que el uso del modelo en el ataque a la escuela no infringió las políticas de la compañía y que los líderes militares cometen errores “incluso en las mejores circunstancias”, informó Bloomberg.
“El principio que hemos establecido, y creo que el que se respetó en este caso, es que la decisión final la toma un ser humano”, señaló Amodei.
El Pentágono no se atribuyó la responsabilidad del ataque, ya que un informe militar preliminar concluyó que Estados Unidos fue responsable del bombardeo, según The New York Times, que citó a funcionarios estadounidenses anónimos que enfatizaron que las conclusiones eran preliminares.
Un funcionario estadounidense, que prefirió permanecer en el anonimato, también declaró a The Wall Street Journal que los investigadores militares estadounidenses creen que las fuerzas estadounidenses fueron probablemente responsables del atentado.
Forbes se puso en contacto con el Pentágono para obtener comentarios.
Más contexto: Pentágono intensifica la investigación sobre ataque a escuela de niñas en Irán
Qué tener en cuenta
Durante su entrevista con Bloomberg, Amodei defendió el uso de la IA en conflictos militares, afirmando: “No queremos un mundo donde China y Rusia puedan construir y analizar toda la inteligencia con IA, y usarla para atacar Taiwán y Ucrania, sin que podamos defendernos”.
Tangente
El presidente Donald Trump acusó a Irán de llevar a cabo el ataque “porque sus municiones son muy imprecisas; carecen de precisión”. Posteriormente, declaró no tener suficiente información sobre el bombardeo, que involucró un misil Tomahawk, una munición que no pertenece ni es utilizada por los ejércitos iraní e israelí.
Contexto clave
De acuerdo con la empresa, los modelos de IA de Anthropic fue ampliamente utilizados por el Departamento de Defensa y otras agencias de seguridad nacional, y su IA se empleó para “análisis de inteligencia, modelado y simulación, planificación operativa, operaciones cibernéticas y más”. Sin embargo, la relación entre el Departamento de Defensa y Anthropic se estancó hace unos meses cuando Amodei rechazó la solicitud del Secretario de Defensa, Pete Hegseth, de otorgar al ejército estadounidense el uso irrestricto de Claude.
Amodei alegó preocupaciones sobre el potencial de vigilancia masiva interna y el uso de armas totalmente autónomas en el campo de batalla. En respuesta, el ejército estadounidense rescindió su contrato con Anthropic y la designó como un riesgo para la seguridad nacional en su cadena de suministro.
Anthropic está impugnando esta designación ante los tribunales.
Este artículo fue publicado originalmente en Forbes US
¿Te gustan las fotos y las noticias?, síguenos en nuestro Instagram
