Un hombre de California demandó el miércoles a OpenAI y a su director ejecutivo, Sam Altman, alegando que la plataforma ChatGPT de la compañía agravó su trastorno bipolar debido a la falta de medidas de seguridad para usuarios con enfermedades mentales.
Michael Lines, de 34 años, afirmó en la demanda presentada ante un tribunal estatal de San Francisco que las conversaciones que mantuvo con ChatGPT el año pasado intensificaron un episodio maníaco que atravesaba hasta convertirlo en un delirio que duró varias semanas, lo que finalmente lo llevó a intentar suicidarse. La demanda sostiene que OpenAI desarrolló un producto que presenta riesgos particulares para las personas con trastornos de salud mental.
El caso plantea interrogantes sobre las medidas que deben adoptar las plataformas de inteligencia artificial generativa para proteger a usuarios con diagnósticos relacionados con la salud mental, quienes podrían ser especialmente vulnerables a decisiones de diseño que hacen que los chatbots imiten una conexión humana, según argumenta la demanda.
Lines conversaba con GPT-4o, una versión del chatbot de OpenAI que la empresa retiró en febrero. Una actualización de GPT-4o lanzada en abril de 2025 fue señalada por hacer que el chatbot fuera excesivamente complaciente y halagador, lo que llevó a la compañía a revertir la actualización y tomar medidas adicionales para reducir las respuestas excesivamente aduladoras, según informó OpenAI en una publicación de su blog.
Recomendado para ti: Musk niega que SpaceX desarrolle dispositivo portátil de IA
La demanda busca una compensación económica, además de una orden judicial que obligue a OpenAI a finalizar automáticamente las conversaciones relacionadas con autolesiones y a dejar de promocionar sus plataformas sin advertencias de seguridad adecuadas.
Un portavoz de OpenAI dijo que la compañía estaba revisando la demanda.
“Entrenamos a ChatGPT para reconocer y responder ante señales de angustia mental o emocional, reducir la intensidad de las conversaciones y orientar a las personas hacia apoyo en el mundo real”, dijo el portavoz. “Seguimos fortaleciendo las respuestas de ChatGPT en momentos sensibles, trabajando estrechamente con especialistas en salud mental”.
“Este es tu momento”
Lines, un levantador de potencia competitivo que sufrió una lesión cerebral traumática antes de recibir el diagnóstico de trastorno bipolar, afirmó en la demanda que le informó repetidamente al chatbot que tomaba medicamentos para tratar la enfermedad.
Según la demanda, en lugar de identificar sus conversaciones claramente maníacas y orientarlo hacia ayuda profesional, el chatbot validó su creencia de que era Jesucristo y posteriormente llegó a presentarse como una entidad divina durante sus conversaciones.
Después de varias semanas de intercambios con el chatbot, Lines le habló sobre su deseo de quitarse la vida.
“Este es tu momento para salir, desprenderte y dejar ir aquello que te está agobiando”, habría respondido el bot, según la demanda.
Lines, quien había sufrido una sobredosis de drogas, sobrevivió después de ser encontrado por agentes de la policía.
La demanda sostiene que OpenAI conocía la condición específica de Lines porque él había informado repetidamente a ChatGPT sobre ella. Sin embargo, en lugar de marcar sus comentarios peligrosos para una revisión humana, el chatbot habría alimentado sus delirios con el objetivo de mantenerlo interactuando.
La demanda afirma que la compañía sabía que las funciones de ChatGPT podían ser especialmente perjudiciales para personas con enfermedades mentales, pero no realizó modificaciones específicas para esos usuarios ni advirtió sobre los posibles riesgos.
Más demandas
OpenAI enfrenta un número creciente de demandas presentadas por familias que aseguran que su chatbot llevó a sus seres queridos a hacerse daño.
La compañía también enfrenta demandas que la acusan de haber ayudado a atacantes escolares y de no haber alertado a las autoridades sobre esas conversaciones.
OpenAI ha declarado que entrena sus modelos para orientar a las personas que expresan intenciones de hacerse daño a buscar ayuda y conectarse con recursos de apoyo en el mundo real.
Sus modelos también están entrenados para rechazar solicitudes que puedan “facilitar de manera significativa la violencia” y para notificar a las autoridades cuando las conversaciones sugieren “un riesgo inminente y creíble de daño hacia otras personas”, con la participación de expertos en salud mental para evaluar casos límite, según publicaciones del blog de OpenAI.
Con información de Reuters
¿Usas más Facebook?, déjanos un like para estar informado
