El regulador británico de medios inició este lunes una investigación sobre X, de Elon Musk, debido a la preocupación de que su chatbot de inteligencia artificial, Grok, estuviera creando imágenes deepfake sexualmente íntimas, incumpliendo su deber de proteger a los ciudadanos del Reino Unido del contenido ilegal.
La investigación de Ofcom aumenta la presión sobre la plataforma de redes sociales del hombre más rico del mundo, que ya se enfrenta a una creciente indignación pública, así como a investigaciones penales y regulatorias en todo el mundo, desde Francia hasta la India.
“Los informes sobre el uso de Grok para crear y compartir imágenes íntimas ilegales no consentidas y material de abuso sexual infantil en X han sido profundamente preocupantes”, declaró el regulador en un comunicado.
Las plataformas deben proteger a los ciudadanos del Reino Unido del contenido ilegal, afirmó el regulador, y añadió que no dudará en investigar cuando sospeche que las empresas están incumpliendo sus obligaciones, especialmente cuando exista riesgo de daño a menores.
Cuando se le preguntó el lunes sobre la investigación, X mencionó una declaración anterior en la que afirmaba que toma medidas contra el contenido ilegal en la plataforma, incluyendo material de abuso sexual infantil, eliminándolo, suspendiendo permanentemente las cuentas y colaborando con los gobiernos locales y las fuerzas del orden según sea necesario.
“Cualquiera que use o incite a Grok a crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”, declaró.
Las imágenes de Grok son ‘repugnantes’ e ‘ilegles’
El regulador está bajo presión para actuar después de que el primer ministro Keir Starmer calificara el jueves las imágenes producidas por Grok de “repugnantes” e “ilegales”.
X, de Musk, tenía que “controlar” a Grok, afirmó.
Tras las medidas iniciales contra los sitios pornográficos que no contaban con controles de edad efectivos, el caso de Grok probablemente será la primera gran prueba para la ley británica de seguridad en línea, promulgada en 2023, pero que Ofcom está implementando gradualmente.
Al ser preguntado el lunes sobre si se podría prohibir X, el secretario de Comercio, Peter Kyle, respondió: “Sí, por supuesto”, pero señaló que la facultad para hacerlo recae en Ofcom.
Musk escribió el sábado en X que, al centrarse en Grok y X, el gobierno británico “solo pretende suprimir la libertad de expresión”.
Un portavoz de Starmer rechazó esa afirmación, afirmando que el gobierno estaba preocupado por las imágenes de abuso sexual infantil y la violencia contra mujeres y niñas.
“Es incorrecto, es ilegal y no lo vamos a tolerar”, declaró el portavoz.
La ministra de Tecnología, Liz Kendall, acogió con satisfacción la investigación formal de Ofcom y añadió que debe completarse con celeridad.
Crear o compartir imágenes íntimas no consentidas o material de abuso sexual infantil, incluidas las imágenes sexuales generadas por IA, es ilegal en Gran Bretaña.
Además, las plataformas tecnológicas deben evitar que los usuarios británicos se encuentren con contenido ilegal y eliminarlo en cuanto tengan conocimiento de él.
También lee: Senadores demócratas exigen a Apple y Google que retiren X y Grok de las tiendas de aplicaciones
Chatbot de X enfrenta creciente denuncia internacional
X fue objeto de condenas en otros países por esta función, que puede mostrar imágenes de mujeres y menores con poca ropa.
Las autoridades francesas denunciaron a X ante la fiscalía y los organismos reguladores, calificando el contenido de “manifiestamente ilegal”, mientras que las autoridades indias también exigieron explicaciones. Indonesia y Malasia bloquearon temporalmente Grok durante el fin de semana.
X afirmó haber restringido las solicitudes para desnudar a personas en imágenes a los usuarios de pago.
Ofcom investigará si X no evaluó el riesgo de que los ciudadanos británicos vieran contenido ilegal y si tuvo en cuenta el riesgo para los menores.
En los casos más graves de incumplimiento, podría solicitar a un tribunal que exija a los proveedores de pago o anunciantes que retiren sus servicios de una plataforma o que los proveedores de servicios de internet bloqueen el acceso a un sitio web en Gran Bretaña.
Con información de Reuters
¿Te gusta informarte por Google News? Sigue nuestro Showcase para tener las mejores historias
