X de Elon Musk se enfrenta a una investigación por parte de la Unión Europea sobre si difunde contenido ilegal, tras la protesta pública por la difusión de imágenes sexualizadas manipuladas por su chatbot de inteligencia artificial Grok.
La Comisión Europea, el órgano ejecutivo del bloque de 27 países, declaró el lunes que investigaría si la plataforma de redes sociales X protegía a los consumidores evaluando y mitigando adecuadamente los riesgos relacionados con las funcionalidades de Grok.
Su investigación llega dos semanas después de que el regulador británico de medios Ofcom iniciara su propia investigación por preocupaciones de que Grok estaba creando imágenes deepfake sexualmente íntimas, y después de que Indonesia, Filipinas y Malasia bloquearan temporalmente el chatbot.
La Comisión afirmó a principios de este mes que las imágenes generadas por IA de mujeres y niños desnudos que se comparten en X eran ilegales y espantosas, sumándose a la condena en todo el mundo.
“Los deepfakes sexuales no consentidos de mujeres y niños son una forma violenta e inaceptable de degradación”, dijo Henna Virkkunen, jefe tecnológico de la UE, en un comunicado.
X hizo referencia a un comunicado emitido el 14 de enero en el que afirmaba que el propietario de xAI había restringido la edición de imágenes para los usuarios de Grok AI y bloqueaba a usuarios, basándose en su ubicación, para que no generaran imágenes de personas con ropa reveladora en “jurisdicciones donde es ilegal”. No identificó los países.
Filipinas y Malasia restablecieron el acceso a Grok después de que xAI dijera que había instalado medidas de seguridad adicionales.
La medida de la Comisión, en el marco de la Ley de Servicios Digitales de la UE que obliga a las grandes tecnológicas a intensificar sus esfuerzos contra el contenido ilegal y dañino en línea, se tomó después de que Grok de xAI generara imágenes sexualizadas de mujeres y menores, lo que alarmó a los reguladores de todo el mundo.
Te puede interesar: El proveedor de Apple, Pegatron, espera que su planta en EU esté terminada para finales de marzo
Las empresas corren el riesgo de multas de hasta el 6% de su facturación anual global por incumplimientos de DSA.
Aunque los cambios realizados por xAI fueron bienvenidos, no resuelven todos los problemas y riesgos sistémicos, dijo un alto funcionario del ejecutivo a los periodistas el lunes. La Comisión consideró que X no realizó una evaluación ad hoc cuando desplegó las funcionalidades de Grok en Europa, añadió el funcionario.
La investigación corre el riesgo de antagonizar a la administración del presidente Donald Trump, ya que la represión de la UE contra las grandes tecnológicas ha provocado críticas e incluso la amenaza de aranceles estadounidenses.
“Con esta investigación, determinaremos si X ha cumplido con sus obligaciones legales bajo la DSA, o si trató los derechos de los ciudadanos europeos —incluidos los de mujeres y niños— como daños colaterales de su servicio”, dijo Virkkunen.
La legisladora europea Regina Doherty afirmó que el caso ponía de manifiesto debilidades más amplias en la forma en que se regulan y aplican las tecnologías de IA.
“La Ley de IA debe seguir siendo una ley viva. Si se hacen evidentes las lagunas en la aplicación o supervisión, entonces es nuestra responsabilidad abordarlas. Las leyes de la UE deben ser aplicables en tiempo real cuando ocurran daños graves”, afirmó.
Los reguladores de la UE también ampliaron una investigación sobre X abierta en diciembre de 2023 para determinar si ha evaluado y mitigado correctamente todos los riesgos sistémicos relacionados con sus llamados sistemas de recomendación, incluido el impacto de su reciente cambio a un sistema basado en Grok.
Indicaron que X, que fue multada con 150 millones de euros en diciembre por incumplir sus obligaciones de transparencia bajo la DSA, podría enfrentarse a medidas provisionales en ausencia de ajustes significativos en su servicio.
Con información de Reuters
¿Te gustan las fotos y las noticias?, síguenos en nuestro Instagram
