España ordenó a la fiscalía que investigue las plataformas de redes sociales X, Meta y TikTok por la presunta difusión de material de abuso sexual infantil generado por IA, a medida que los reguladores europeos intensifican el escrutinio de las grandes tecnológicas por contenido dañino e ilegal.
El anuncio del presidente del Gobierno, Pedro Sánchez, se produce en medio de una ofensiva más amplia contra las plataformas en línea, a las que los reguladores acusan de prácticas que van desde comportamiento anticompetitivo en la publicidad digital hasta el diseño deliberado de funciones adictivas.
La medida —la primera de un paquete de regulaciones para redes sociales que Sánchez presentó en una cumbre gubernamental en Dubái a principios de este mes— se basó en un informe técnico de tres ministerios, informó posteriormente su oficina en un comunicado.
La portavoz del Gobierno, Elma Saiz, declaró a la prensa que las autoridades “no pueden permitir que los algoritmos amplifiquen o encubran” estos delitos, añadiendo que la seguridad, la privacidad y la dignidad de los niños estaban en riesgo.
Por otra parte, este martes, la Comisión de Protección de Datos de Irlanda anunció la apertura de una investigación formal sobre Grok, el chatbot de xAI de X, por el procesamiento de datos personales y su potencial para generar imágenes y vídeos sexualizados dañinos, incluso de menores.
La Comisión de Protección de Datos de Irlanda (CPD) es el principal regulador de la UE para X, de Elon Musk, ya que las operaciones de la compañía estadounidense en la UE tienen su sede en Irlanda.
Te interesa: ‘No nos dejaremos influenciar por los oligarcas tecnológicos en la prohibición de las redes sociales’: Pedro Sánchez
Uno de cada cinco jóvenes en España, en su mayoría chicas, afirma que imágenes falsas de desnudos de ellas mismas fueron creadas por IA y compartidas en línea cuando eran menores, declaró la oficina de Sánchez, citando a la organización de derechos humanos Save the Children.
“Estas plataformas están socavando la salud mental, la dignidad y los derechos de nuestros niños”, escribió Sánchez sobre X. “El Estado no puede permitirlo. La impunidad de estos gigantes debe terminar”.
Añadió que el Ministerio de Justicia solicitará a la fiscalía que “investigue los delitos que X, Meta y TikTok podrían estar cometiendo mediante la creación y difusión de pornografía infantil utilizando su IA”.
España no es el único país que está tomando medidas drásticas contra las plataformas de redes sociales. Otros gobiernos han abierto investigaciones, impuesto prohibiciones y solicitado salvaguardias en un creciente esfuerzo global para frenar el material ilegal.
La Comisión Europea está investigando a Meta, TikTok y Grok bajo la Ley de Servicios Digitales de la Unión Europea, mientras que Francia, Brasil y Canadá han presentado denuncias contra Grok por la distribución ilegal de contenido.
Hace dos semanas, Sánchez esbozó nuevas medidas para combatir el abuso en línea y proteger a los menores, incluyendo la propuesta de prohibir el acceso a las redes sociales a los menores de 16 años.
Ese mismo día, la policía francesa allanó las oficinas de la expareja de Musk y la fiscalía ordenó al multimillonario responder a preguntas en una investigación más amplia.
En noviembre, Sánchez declaró que el parlamento español investigaría a Meta por posibles violaciones de la privacidad que involucran a usuarios de Facebook e Instagram.
El año pasado, la Fundación Internet Watch, con sede en el Reino Unido, detectó 3,440 videos de abuso sexual infantil con inteligencia artificial, en comparación con solo 13 en 2024.
Con información de Reuters
Inspírate, descubre y comparte. ¡Síguenos y encuentra lo que buscas en nuestro Instagram!
