La admisión de OpenAI de haber prohibido la cuenta de ChatGPT del tirador en masa Jesse Van Rootselaar meses antes de que la joven de 18 años matara a ocho personas y se suicidara está generando un mayor escrutinio sobre su actividad previa en línea y planteando preguntas sobre si se desaprovecharon oportunidades para prevenir una de las peores masacres de la historia de Canadá.
La decisión de OpenAI de no denunciar a Van Rootselaar ante la policía llevó al ministro de Inteligencia Artificial de Canadá, Evan Solomon, a convocar a funcionarios de la compañía a Ottawa esta semana para explicar sus protocolos de seguridad.
El tiroteo en la pequeña ciudad de Tumbler Ridge, en la Columbia Británica, es la última tragedia en la que, según los críticos, las interacciones con chatbots podrían haber advertido o incluso fomentado la violencia.
Los expertos en delincuencia señalaron que, si bien es necesario un mayor escrutinio de las plataformas de IA y las redes sociales, la policía u otras autoridades podrían haber desaprovechado oportunidades para evitar la tragedia. La policía había retirado previamente armas de la casa de Van Rootselaar, aunque posteriormente fueron devueltas.
La policía también afirmó estar al tanto de su historial de problemas de salud mental.
Van Rootselaar inició el ataque asesinando a su madre y a su hermano en casa, antes de disparar y matar a tiros a un educador y a cinco estudiantes, mientras que otros dos fueron hospitalizados con heridas graves.
La Real Policía Montada de Canadá declaró que la investigación sigue activa y que algunas preguntas están sujetas a la legislación pertinente o a procesos judiciales.
“Claramente, este era un hogar con muchos problemas”, declaró Patrick Watson, profesor de criminología de la Universidad de Toronto, ajeno al caso. “Pero también necesitamos un escrutinio mucho más riguroso de las empresas que están creando estas nuevas plataformas, que se están convirtiendo en una nueva esfera pública con muy poca rendición de cuentas”.
Más contexto: Policía canadiense identifica a una joven de 18 años como sospechosa de tiroteo masivo en escuela
En una publicación de Reddit, posteriormente eliminada, Van Rootselaar afirmó que le habían diagnosticado numerosos problemas de salud mental, como trastorno por déficit de atención e hiperactividad, depresión, trastorno obsesivo-compulsivo y que se encontraba en el espectro autista.
“Me volví loca y quemé mi casa la segunda vez que probé hongos, pero aún tengo ganas de probar alternativas”, escribió Van Rootselaar.
Van Rootselaar también creó previamente un juego con la aplicación Roblox Studio, que consistía en disparar a otros personajes en un centro comercial.
Roblox informó que la cuenta de Van Rootselaar y su contenido fueron eliminados de la aplicación al día siguiente de la masacre de Tumbler Ridge, y que el juego solo tuvo siete visitas.
Open AI declaró en un comunicado que había bloqueado la cuenta ChatGPT de Van Rootselaar en junio pasado tras identificar “usos indebidos de nuestros modelos para fomentar actividades violentas” y que consideraba la posibilidad de remitirla a las fuerzas del orden.
La compañía finalmente decidió que “la actividad de la cuenta no cumplía con el requisito de remisión”, principalmente porque OpenAI no pudo identificar una planificación creíble o inminente.
La compañía afirmó que intervenir en estas situaciones puede ser angustioso para los jóvenes y sus familias, y también puede generar problemas de privacidad.
Con información de Reuters
