El abogado que representa a varias víctimas de un tiroteo escolar en Columbia Británica dijo que su bufete planeaba presentar hasta dos docenas de demandas más contra OpenAI y su CEO Sam Altman, argumentando que la empresa fue negligente por no advertir a las autoridades tras las violentas interacciones del tirador con ChatGPT meses antes.
Datos clave
En varias demandas presentadas el miércoles en el tribunal federal de distrito de San Francisco, las familias de algunas víctimas asesinadas y heridas en el mortal tiroteo de febrero en Tumbler Ridge, Columbia Británica, Canadá, alegaron que ChatGPT de OpenAI “jugó un papel en el tiroteo masivo y que OpenAI podría haberlo evitado y debería haberlo evitado.”
Jay Edelson, el abogado que representa a las víctimas, dijo que su bufete planea presentar hasta dos docenas de demandas más en las próximas semanas, insistiendo en que “lo mejor que pueden ofrecer [OpenAI] es una disculpa corporativa vacía mientras corren hacia su salida a bolsa.”
Las denuncias presentadas el miércoles alegan múltiples cargos de negligencia, responsabilidad por productos, muerte injusta y complicidad en un tiroteo masivo.
Días después del mortal tiroteo del 10 de febrero, el Wall Street Journal publicó un informe detallando cómo la cuenta de ChatGPT del tirador fue prohibida tras ser señalada por un sistema interno de revisión, pero la dirección de OpenAI finalmente decidió no contactar con la policía local—y un portavoz de la empresa dijo al periódico que la cuenta no cumplía sus criterios para informar a las autoridades.
La semana pasada, Altman pidió disculpas a la comunidad en una nota publicada en el boletín local Tumbler Ridgelines, donde dijo que “lamentaba profundamente que no alertáramos a las fuerzas del orden sobre la cuenta que fue prohibida en junio.”
En un comunicado enviado a Forbes, Edelson dijo que OpenAI y Altman “se niegan a dar respuestas, no han movido ni un dedo para ayudar a la comunidad y no han tomado medidas concretas para hacernos creer que tragedias como esta no seguirán ocurriendo bajo su mandato.”
Te puede interesar: Solo Elon Musk puede despedir a Elon Musk de SpaceX, señalan documentos
Cita crucial
“Tenemos una política de tolerancia cero para usar nuestras herramientas para ayudar en cometer violencia”, declaró un portavoz de OpenAI a varios medios en un comunicado. “Como compartimos con funcionarios canadienses, ya hemos reforzado nuestras salvaguardas, incluyendo la mejora de la forma en que ChatGPT responde a las señales de angustia, la conexión de las personas con apoyo local y recursos de salud mental, el fortalecimiento de la evaluación y escalada de posibles amenazas de violencia, y la mejora de la detección de infractores recurrentes de políticas.”
Antecedentes clave
El 10 de febrero, una joven de 18 años llamada Jesse Van Rootselaar, en la localidad de Tumbler Ridge, a cientos de millas al noreste de Vancouver, en las Montañas Rocosas canadienses, disparó y mató a su madre y a su hermano en casa. Van Rootselaar se dirigió entonces al instituto Tumbler Ridge Secondary School y volvió a abrir fuego, matando finalmente a siete personas más, incluida ella misma, e hiriendo al menos a 27 más. Supuso el tiroteo escolar más mortífero de Canadá desde el tiroteo de la École Polytechnique en Montreal en 1989.
Gancho informativo
OpenAI está planeando una salida a bolsa que podría valorar a la empresa de IA en hasta 1 billón de dólares, informó Reuters el año pasado. Las demandas presentadas el miércoles alegan que la noticia de otro episodio de violencia relacionada con los productos de OpenAI podría “descarrilar” la oferta. “Las características que hacen que ChatGPT sea inseguro—su disposición a abordar cualquier tema, a validar a cualquier usuario, a mantener cualquier fijación a lo largo del tiempo—son las mismas características que lo han convertido en uno de los productos más populares de la historia”, argumenta la demanda.
Dato sorprendente
La denuncia alega que las víctimas solo se enteraron del uso de ChatGPT por parte del tirador gracias a la información del Wall Street Journal. “Lamentablemente, las víctimas no se enteraron de esto porque OpenAI estaba disponible, sino porque sus propios empleados lo filtraron al Wall Street Journal después de que ya no pudieran soportar el silencio de la empresa”, dice la denuncia.
En el informe de febrero, el Journal informó que las publicaciones del tirador con el chatbot “alarmaron” a los empleados, y una docena debatieron si contactar con las autoridades locales. La demanda hace una afirmación similar, insistiendo en que OpenAI “sabía que el tirador planeaba el ataque y, tras un debate interno polémico, tomó la decisión consciente de no avisar a las autoridades.”
Este artículo fue publicado originalmente en Forbes US
Síguenos en Google Noticias para mantenerte siempre informado
