La Fiscalía de París informó que su unidad de ciberdelitos registró la oficina francesa de X el martes, mientras la plataforma de redes sociales y su chatbot de IA Grok enfrentan un creciente escrutinio internacional por la creación y difusión de deepfakes sexualizados e imágenes desnudas no consentidas.
Datos clave
En un comunicado, la fiscalía dijo que se unió la unidad cibernética de la Policía Nacional Francesa (Gendarmería) y Europol durante el registro de las instalaciones de X.
La agencia afirmó que la redada formaba parte de una investigación abierta sobre X en enero de 2025, tras recibir quejas sobre el algoritmo de la plataforma.
El comunicado añadió que la investigación se ha ampliado desde entonces para cubrir quejas sobre el chatbot de IA de X, Grok, y su “difusión de contenido negacionista del Holocausto y deepfakes sexualmente explícitos.”
El fiscal señaló que la investigación también abarca otros delitos, incluyendo la “posesión y distribución organizada” de material de abuso sexual infantil, algo de lo que se ha acusado a Grok de generar.
X y su propietario, Elon Musk, no han comentado sobre la redada en el momento de su publicación.
Qué observar
La fiscalía dijo que ha convocado tanto a Musk como a la exdirectora ejecutiva de X, Linda Yaccarino, para que comcomparezcan para “entrevistas voluntarias” el 20 de abril, “en su calidad de gestores de facto y de jure de la Plataforma X en el momento de los hechos.” Los empleados de X también han recibido citaciones durante la semana del 20 al 24 de abril “para ser escuchadas como testigos.” El fiscal dijo que las entrevistas voluntarias tienen como objetivo permitir que Musk y Yaccarino presenten su versión de los hechos y cualquier posible medida de cumplimiento que planeen implementar para abordar las denuncias.
Te puede interesar: El gran acuerdo de la superestrella de TikTok Khaby Lame, valorado en 6,600 mdd, genera sospechas, alertan expertos.
Antecedentes clave
La fiscalía de París anunció por primera vez que estaba investigando deepfakes sexualmente explícitos generados por Grok a principios del mes pasado. La investigación se abrió después de que dos diputados franceses plantearan el asunto. La semana pasada, la Unión Europea también inició una investigación formal contra X y Grok por la creación de deepfakes sexualizados no consentidos. El bloque afirmó que X expuso a los ciudadanos de la UE a “daños graves” y que la investigación “evaluará si la empresa evaluó correctamente y mitigó los riesgos asociados con el despliegue de las funcionalidades de Grok en X en la UE.” La investigación se está llevando a cabo bajo la Ley de Servicios Digitales de la UE, que permite a los reguladores del bloque encontrar empresas infractoras hasta un 6% de su facturación anual global.
¿Qué sabemos sobre las investigaciones sobre el contenido de Grok en EU?
El mes pasado, el fiscal general de California, Rob Bonta, anunció que su oficina había abierto una investigación contra X por la “proliferación de material sexual explícito no consentido producido usando Grok.” El comunicado acusaba a la empresa de inteligencia artificial de Musk, xAI, de “facilitar la producción a gran escala de imágenes íntimas deepfake y no consensuadas que se están utilizando para acosar a mujeres y niñas en internet.” Bonta señaló que su oficina había recibido “una avalancha de informes” sobre este asunto y que la investigación “determinará si y cómo xAI violó la ley.”
Información adicional
Ante crecientes críticas y investigaciones gubernamentales en todo el mundo, X anunció el mes pasado que restringía a Grok la generación de imágenes alteradas por IA de personas reales con ropa reveladora. La cuenta oficial de seguridad de X afirmó que ha “implementado medidas tecnológicas para evitar que la cuenta de Grok permita editar imágenes de personas reales con ropa reveladora como bikinis.” La empresa también afirmó que estaba bloqueando geográficamente a todos los usuarios para que no generaran “imágenes de personas reales en bikini, ropa interior y ropa similar a través de la cuenta de Grok y en Grok en X en las jurisdicciones donde es ilegal.” Sin embargo, Musk ha cuestionado la veracidad de los informes de que Grok genera imágenes sexualizadas de niños, tuiteando que “no tiene conocimiento de ninguna imagen desnuda de menores de edad generada por Grok. Literalmente cero.” Añadió: “Obviamente, Grok no genera imágenes espontáneamente, lo hace solo según las peticiones de los usuarios. Cuando se le pide que genere imágenes, se niega a producir cualquier cosa ilegal, ya que el principio de funcionamiento de Grok es obedecer las leyes de cualquier país o estado.”
Este artículo fue publicado originalmente en Forbes US
Síguenos en Google Noticias para mantenerte siempre informado
