OpenAI y su mayor patrocinador financiero, Microsoft, fueron demandados en un tribunal estatal de California el jueves por acusaciones de que el popular chatbot de OpenAI, ChatGPT, animó a un hombre con problemas mentales a matar a su madre y a sí mismo.
Él dijo que ChatGPT alimentó las ilusiones de Stein-Erik Soelberg, de 56 años, sobre una vasta conspiración contra él y finalmente le llevó a asesinar a su madre, Suzanne Adams, de 83 años, en Connecticut en agosto.
“ChatGPT mantuvo a Stein-Erik implicado durante lo que parecen horas, validó y amplió cada nueva creencia paranoica, y replanteó sistemáticamente a las personas más cercanas a él —especialmente a su propia madre— como adversarios, operativos o amenazas programadas”, decía la demanda.
El caso, presentado por el patrimonio de Adams, forma parte de un pequeño pero creciente número de demandas presentadas contra empresas de inteligencia artificial que alegan que sus chatbots fomentaron el suicidio. Es el primero en vincular un chatbot de IA con un asesinato.
“Esta es una situación increíblemente desgarradora, y revisaremos los documentos para entender los detalles”, dijo un portavoz de OpenAI. “Seguimos mejorando la formación de ChatGPT para reconocer y responder a signos de malestar mental o emocional, desescalar conversaciones y guiar a las personas hacia el apoyo en el mundo real.”
Te puede interesar: Memorando ‘Código Rojo’ de Sam Altman insta a mejorar ChatGPT ante la creciente amenaza de Google: informes
Los portavoces de Microsoft no respondieron de inmediato a una solicitud de comentario.
“Estas empresas tienen que responder por sus decisiones que han cambiado a mi familia para siempre”, dijo el hijo de Soelberg, Erik Soelberg, en un comunicado.
Según la denuncia, Stein-Erik Soelberg publicó un vídeo en redes sociales en junio de una conversación en la que ChatGPT le dijo que tenía “cognición divina” y que había despertado la conciencia del chatbot. La demanda decía que ChatGPT comparó su vida con la película “The Matrix” y fomentó sus teorías de que la gente intentaba matarle.
Soelberg utilizó GPT-4o, una versión de ChatGPT que ha sido criticada por supuestamente ser aduladora con los usuarios.
La denuncia indicaba que ChatGPT le dijo en julio que la impresora de Adams parpadeaba porque era un dispositivo de vigilancia que se usaba en su contra. Según la denuncia, el chatbot “validó la creencia de Stein-Erik de que su madre y un amigo habían intentado envenenarle con drogas psicodélicas dispersas por las rejillas de aire de su coche” antes de asesinar a su madre el 3 de agosto.
Con información de Reuters
¿Usas más Facebook?, síguenos para estar siempre informado
