El chatbot Grok de Elon Musk está poniendo a prueba la capacidad de Europa para frenar los deepfakes y el “desnudo digital” de imágenes en línea, incluso después de que los reguladores lograran una rara victoria al obligar a la empresa xAI de Musk a limitar la creación de imágenes sexualizadas.
xAI afirmó a última hora del miércoles que había restringido la edición de imágenes para los usuarios de Grok AI, después de que el chatbot generara miles de imágenes sexualizadas de mujeres y menores que alarmaron a reguladores de todo el mundo.
La rectificación de Musk, que inicialmente se había burlado de la tendencia, pone de relieve la dificultad de regular herramientas de IA que abaratan y facilitan la creación de contenido explícito. Se trata del último choque entre Europa y Musk, tras disputas por interferencia electoral, moderación de contenidos y libertad de expresión.
Muchos reguladores aún se apresuran a desarrollar leyes y normas para gobernar la IA, con dudas sobre qué constituye desnudez, cómo definir el consentimiento y quién asume la responsabilidad: el usuario o la plataforma.
«Es realmente una zona gris en lo que respecta a la creación de imágenes desnudas», dijo a Reuters Ängla Pändel, abogada de protección de datos y privacidad con sede en Estocolmo del bufete Mannheimer Swartling.
El regulador británico Ofcom, uno de los más activos en este tema, acogió con satisfacción la medida de Musk, pero afirmó que su investigación sobre xAI por las imágenes de Grok continuará.
«Nuestra investigación formal sigue en curso», dijo un portavoz. «Estamos trabajando sin descanso para avanzar y obtener respuestas sobre qué salió mal y qué se está haciendo para solucionarlo».
Más contexto: xAI de Musk restringe la edición de imágenes de Grok tras las preocupaciones expresadas por California y Europa
Se necesita la aplicación más firme, dicen funcionarios
A principios de este mes, Grok creó imágenes hiperrealistas de mujeres en X manipuladas para parecer que llevaban bikinis diminutos, estaban en poses degradantes o incluso cubiertas de moretones. Algunos menores fueron desnudados digitalmente hasta quedar en traje de baño.
Hasta el miércoles, Reuters comprobó que el chatbot aún producía imágenes sexualizadas de forma privada bajo demanda. Eso pareció haberse limitado al menos en determinadas geografías el jueves.
xAI de Musk dijo que estaba bloqueando a los usuarios la generación de imágenes de personas con vestimenta mínima en «jurisdicciones donde es ilegal». No identificó cuáles.
En Malasia e Indonesia, el gobierno impuso prohibiciones temporales a Grok, mientras que reguladores de la UE y el Reino Unido calificaron las imágenes de ilegales. Reino Unido, Francia e Italia iniciaron investigaciones, pero enfrentaron llamados a adoptar medidas más duras.
«Se necesita una aplicación más estricta de la Ley de Servicios Digitales (DSA) para detener aplicaciones y plataformas que sexualizan o desnudan a mujeres y niños», afirmó la eurodiputada democristiana Nina Carberry, quien calificó el último paso como un «avance positivo».
Un portavoz de la Comisión Europea dijo que, si los cambios en Grok no resultaban efectivos, la Comisión seguiría utilizando todo el arsenal de medidas de cumplimiento del DSA de la UE contra la plataforma.
Infórmate: Activistas piden a Apple y Google eliminar a X y Grok de las tiendas de aplicaciones
Zona legal gris, gran carga para las víctimas
La Ley de Seguridad en Línea del Reino Unido considera delito prioritario la difusión de imágenes íntimas sin consentimiento, incluidos los deepfakes generados por IA, señaló Alexander Brown, abogado de protección de datos en el Reino Unido del bufete Simmons & Simmons.
«Esto significa que X debe adoptar medidas proactivas y proporcionales para evitar que dicho contenido aparezca en su plataforma y retirarlo rápidamente cuando se detecte», explicó.
El regulador británico puede multar a una empresa hasta con el 10 % de sus ingresos en los casos más graves de incumplimiento o pedir a un tribunal que obligue a los proveedores de servicios de internet a bloquear el sitio.
Para las personas, llevar a las plataformas a los tribunales es «un proceso realmente difícil y pesado», dijo Anders Bergsten, abogado de Mannheimer Swartling, al citar el impacto emocional en las víctimas.
Los deepfakes existen desde hace años, mucho antes de la aparición de las aplicaciones de IA, aunque en gran medida se limitaban a los rincones más oscuros de la web. El poder de publicación de X otorga a Grok un alcance sin precedentes.
«La capacidad de publicación sin fricción permite que los deepfakes se difundan a gran escala», afirmó la abogada estadounidense Carrie Goldberg, que trabaja con víctimas de acoso digital.
Las leyes en Reino Unido y Suecia hacen ilegal la difusión sin consentimiento de imágenes desnudas. Reino Unido está ampliando la legislación para incluir también la creación de dichas imágenes.
En virtud del DSA, suspender un servicio se considera un último recurso. La Ley de IA de la UE tampoco contempla disposiciones sobre imágenes desnudas de adultos, solo obligaciones de transparencia para los deepfakes, según expertos.
El primer ministro británico, Keir Starmer, acogió el jueves la medida de X, pero advirtió: «La libertad de expresión no es la libertad de violar el consentimiento. Las imágenes de mujeres jóvenes no son propiedad pública, y su seguridad no está en debate».
«Si necesitamos reforzar aún más las leyes existentes, estamos dispuestos a hacerlo».
Con información de Reuters.
Sigue la información sobre el mundo en nuestra sección internacional
