La pervivencia de la memoria del Holocausto está “amenazada” por la inteligencia artificial (IA) generativa, que con frecuencia se alimenta de fuentes distorsionadas o maliciosas para crear sus contenidos, alertó este martes la Unesco.
Un informe conjunto publicado hoy por la Unesco y el Congreso Mundial Judío (CMJ) señala que los desarrolladores de IA, al entrenar sus herramientas con información que circula por internet, pueden exponerlas, por falta de supervisión adecuada, a fuentes con datos falsos o tendenciosos.
Además, y sobre esa base, las propias herramientas de IA pueden terminar generando contenidos falsos sobre el Holocausto, algo que ya ha ocurrido en algunos casos con ChatGPT y con Bard, la herramienta de Google.
Ambas han producido contenido sobre acontecimientos relacionados con el Holocausto “que nunca ocurrieron”, afirma la Unesco en un comunicado.
Te recomendamos: Unesco alerta de que la IA generativa refuerza estereotipos contra las mujeres
Unesco insta a que la IA tenga recomendaciones éticas en su información
Otro problema encontrado es que la IA tiende a “simplificar el contexto histórico”, privilegiando “un rango reducido de fuentes y una pequeña elección de acontecimientos”.
Por ejemplo, en páginas de búsqueda alimentadas por IA, entre un 60 y un 80% de las principales imágenes en búsquedas se refieren al campo de exterminio de Auschwitz-Birkenau.
Debido a que el 80% de los jóvenes entre los 10 y 24 años usan la IA varias veces al día con propósitos educativos o de entretenimiento, hace falta una acción “rápida” para que estas tecnologías se guíen por principios éticos, insistió la Unesco.
Por ello, la organización urgió a los Estados y a las empresas tecnológicas a acelerar la implementación de sus recomendaciones sobre la ética de la IA, y que ya ha sido integrada en la legislación de unos cincuenta países.
Con información de EFE.
Síguenos en Google Noticias para mantenerte siempre informado
