Durante el último año, los agentes del Departamento de Seguridad Nacional de EU lucharon por descubrir la identidad de un sitio de explotación infantil en la dark web, con poco éxito. Sin embargo, se abrió una posibilidad gracias al uso de ChatGPT por parte del sospechoso.
Se trata de la primera orden de allanamiento federal conocida en la que se le solicita a OpenAI datos de usuarios, revisada por Forbes después de que fuera revelada en Maine la semana pasada, en donde las investigaciones del departamento revelaron que habían estado chateando con el administrador del sitio de manera encubierta y que el sospechoso notó que habían estado usando ChatGPT para lograrlo.
El sospechoso reveló algunas indicaciones y respuestas que había recibido, detallando una discusión aparentemente inocua que comenzó con “¿Qué pasaría si Sherlock Holmes conociera a Q de Star Trek?”.
En otra discusión, el sospechoso dijo que había recibido una respuesta de ChatGPT para una solicitud no especificada sobre un poema de 200,000 palabras, recibiendo en respuesta “un extracto de muestra de un poema humorístico, al estilo de Trump, sobre su amor por la YMCA de Village People, escrito en ese estilo exagerado, autocomplaciente y de flujo de conciencia por el que es conocido”. Luego copió y pegó ese poema.
El gobierno ordenó a OpenAI que proporcionara varios tipos de información sobre la persona que ingresó las indicaciones, incluidos detalles de otras conversaciones que había tenido con ChatGPT, nombres y direcciones asociados con las cuentas relevantes, así como cualquier dato de pago.
Este caso demuestra cómo las fuerzas del orden estadounidenses pueden utilizar las solicitudes de ChatGPT para recopilar datos de usuarios sospechosos de actividades delictivas. Anteriormente, se había solicitado a motores de búsqueda como Google que proporcionen información personal de los usuarios que realizaron ciertas búsquedas, pero no se tiene constancia de que a ninguna plataforma de IA generativa se le haya solicitado lo mismo respecto de quienes realizaron solicitudes.
Este caso lo convierte en el primer ejemplo público de este tipo de solicitud inversa de IA. OpenAI no respondió a una solicitud de comentarios al momento de la publicación.
Sin embargo, el gobierno no requirió los datos de OpenAI para identificar al sospechoso. En cambio, pudo obtener suficiente información durante conversaciones encubiertas con él para descubrir que estaba conectado con el ejército estadounidense. El sospechoso reveló, por ejemplo, que se estaba sometiendo a evaluaciones de salud, había vivido en Alemania durante siete años y que su padre había servido en Afganistán.
Posteriormente, supieron por el ejército que el sospechoso había trabajado en la Base Aérea de Ramstein, en Alemania, y había solicitado más trabajo en el Departamento de Defensa, aunque no especificaron en qué rama.
Con suficientes indicios, el gobierno ha llegado a la conclusión que el administrador del sito es Drew Hoehner de 36 años, el cual ya ha sido acusado de un cargo de conspiración para publicitar material de abuso sexual infantil (CSAM).
ChatGPT utilizado contra redes de pedófilos
El Departamento de Investigación de Seguridad Nacional, un equipo especializado del Servicio de Inmigración y Control de Aduanas (ICE) de EU, enfocado en explotación infantil, ciberdelincuencia y trata de personas, llevaba desde 2019 intentando descubrir la identidad de esta persona.
Los investigadores creían que la misma persona, ahora identificada como Hoehner, era moderadora o administradora de 15 sitios web oscuros que contenían material de abuso sexual infantil (MASI), con una base de usuarios combinada de al menos 300,000. Todos utilizaban la red Tor, que cifra el tráfico de los usuarios y lo envía a través de varios servidores para dificultar el seguimiento de sus movimientos en línea y sus identidades.
La orden judicial no revela los nombres de los sitios web más recientes del sospechoso, pero estaban muy bien organizados, dirigidos por un equipo de administradores y moderadores que otorgaban insignias y reconocimientos a quienes más contribuían al sitio. Contaban con varias subcategorías de material ilegal, incluida una dedicada a la IA, probablemente por albergar material de abuso sexual infantil generado por programas de inteligencia artificial.
No está claro qué datos específicos recibió el gobierno. Un documento mostraba que la búsqueda se había completado y que OpenAI había proporcionado a los agentes una hoja de cálculo de Excel con la información. No se publicaron más detalles, y el Departamento de Justicia no respondió a una solicitud de comentarios. Es posible que la información de OpenAI pueda utilizarse para ayudar a los fiscales a corroborar la identificación del acusado.
Si bien el mensaje en sí no tenía nada que ver con la explotación infantil, ChatGPT, como todas las grandes aplicaciones, puede ser un blanco para pedófilos. Los datos de OpenAI muestran que, entre julio y diciembre del año pasado, reportó 31,500 piezas de contenido relacionado con abuso sexual infantil al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC), el centro de intercambio de información al que todas las empresas tecnológicas deben reportar imágenes de abuso infantil.
Durante ese mismo semestre, se le solicitó que divulgara información de usuarios o contenido 71 veces, lo que proporcionó a los gobiernos información de 132 cuentas.
Este artículo fue publicado originalmente por Forbes US
Entérate: La IA también seduce al cibercrimen
Sigue la información sobre el mundo en nuestra sección internacional
