Según un nuevo estudio de la organización sin fines de lucro Thorn, uno de cada ocho adolescentes estadounidenses menores de 18 años conoce personalmente a alguien que ha sido víctima de una falsificación pornográfica generada por inteligencia artificial. Y uno de cada 17 adolescentes ha sido víctima directa de falsificaciones por inteligencia artificial.
“¿Cuántos niños hay en un aula de secundaria promedio? Eso significa un [deepfake] en cada aula”, dijo a Forbes Melissa Stroebel, directora de investigación de Thorn, que se centra en combatir la propagación de material de abuso sexual infantil en línea . “Significa que todas las comunidades lo están experimentando en este momento y es hora de manifestarse y, como sociedad, responder a eso”.
Thorn encuestó a 1.200 personas de entre 13 y 20 años, incluidos más de 700 adolescentes de entre 13 y 17 años, para comprender mejor la amenaza de los desnudos deepfake.
A medida que la tecnología artificial se ha vuelto más sofisticada y fácil de usar, también lo ha hecho la prevalencia y la facilidad con que los adolescentes la obtienen. Es trivialmente fácil crear y compartir ese tipo de contenido, lo que afecta desproporcionadamente a las adolescentes y a las mujeres.
La encuesta se realizó en línea a fines de septiembre y principios de octubre de 2024, y se ponderó por edad, género, raza y geografía. De los encuestados, el 48 % eran hombres y el 48 % mujeres, y el resto pertenecía a una “minoría de género”. Aproximadamente una quinta parte de los encuestados se identificaron como LBGTQ+.
El estudio se basa en una encuesta de Thorn publicada el año pasado a 1.040 menores que encontró que aproximadamente uno de cada 10 niños entre 9 y 17 años había oído hablar de casos en los que sus compañeros usaron IA para generar desnudos de otros niños.
Lee más: Sony y Suntory aumentan sus reservas en EU mientras Japón enfrenta la amenaza arancelaria de Trump
Una cantidad asombrosa de adolescentes conocen personalmente a alguien que fue víctima de Deep Fakes
El año pasado se produjo un aumento de casos de imágenes pornográficas falsificadas en las escuelas. En un caso ocurrido en octubre de 2023, en la escuela secundaria Westfield de Nueva Jersey, Forbes informó que, incluso en marzo de 2024, hubo pocas o ninguna consecuencia para los niños que perpetraron y distribuyeron estas imágenes. En otro caso, ocurrido en diciembre de 2024, en la escuela Lancaster Country Day School de Pensilvania, dos niños fueron acusados de crear imágenes falsificadas de casi la mitad de las niñas de la escuela y ahora enfrentan cargos penales . Sus padres no respondieron a la solicitud de comentarios de Forbes en ese momento.
Dorota Mani, una mujer de Nueva Jersey cuya hija fue víctima de pornografía deepfake a fines de 2023 , le dijo a Forbes que no le sorprende que este flagelo sea tan frecuente. (La hija de Mani, Francesca Mani, no participó de la encuesta).
“No esperaría nada diferente a menos que hagamos algo al respecto”, dijo Dorotha Mani. Mani agregó que planea reunirse con funcionarios el lunes en Washington, DC, incluido el senador Ted Cruz (republicano de Texas), la representante María Salazar (republicana de Florida) y la primera dama Melania Trump con respecto a la ” Ley Take It Down “, que fue aprobada por el Senado a principios de este mes.
Si se aprueba, este proyecto de ley penalizaría la publicación de imágenes íntimas no consensuadas, incluidas las deepfakes, y obligaría a las plataformas a eliminarlas en un plazo de 48 horas. Las plataformas que no lo hagan podrían enfrentarse a multas monetarias impuestas por la Comisión Federal de Comercio.
“Ahora más que nunca, es crucial educar [a los niños] sobre las consecuencias y la participación de las escuelas en la conversación”, dijo Mani.
Este artículo fue publicado originalmente por Forbes US.
Te puede interesar: Cómo los creadores menores de edad se convirtieron en una amenaza para el rival de Lucy Guo en OnlyFans
