Los padres de un joven que murió el año pasado por una sobredosis accidental de drogas demandaron el martes a OpenAI y a su fundador y director ejecutivo, Sam Altman, ante un tribunal de California, alegando que ChatGPT instruyó a la persona para que tomara una peligrosa combinación de sustancias.
Leila Turner-Scott y Angus Scott afirman que su hijo, Sam Nelson, de 19 años, utilizaba dicho chatbot para obtener orientación sobre la combinación de diferentes medicamentos. Según ellos, el chatbot lo animó a tomar Xanax, un medicamento recetado, para tratar las náuseas provocadas por el kratom, un producto herbal con efectos similares a los de los opioides.
La combinación de esas drogas y alcohol provocó la muerte de Nelson en mayo de 2025, según la demanda presentada ante un tribunal estatal en San Francisco.
La demanda busca una indemnización económica y solicita al tribunal que suspenda el lanzamiento de ChatGPT Health por parte de OpenAI, una plataforma que la compañía anunció en enero y que permite a los usuarios subir historiales médicos y recibir consejos de salud personalizados.
Actualmente, los usuarios de ChatGPT pueden unirse a una lista de espera para acceder a ChatGPT Health. Un informe de OpenAI publicado en enero reveló que, en total, 40 millones de usuarios realizan diariamente preguntas relacionadas con la salud en ChatGPT.
Drew Pusateri, portavoz de OpenAI, calificó la situación de desgarradora y afirmó que las interacciones tuvieron lugar en una versión anterior de ChatGPT que ya no está disponible. La empresa trabaja continuamente para mejorar la seguridad de ChatGPT, añadió.
“ChatGPT no sustituye la atención médica ni la atención de salud mental, y hemos seguido mejorando su respuesta en situaciones delicadas y agudas con la colaboración de expertos en salud mental”, declaró Pusateri.
“Las medidas de seguridad de ChatGPT están diseñadas para identificar situaciones de angustia, gestionar de forma segura las solicitudes perjudiciales y orientar a los usuarios hacia la ayuda profesional”.
Esta demanda es la acción por homicidio culposo más reciente que se ha presentado contra una empresa de IA y se produce poco más de un día después de que la familia de un hombre asesinado en un tiroteo masivo en la Universidad Estatal de Florida demandara a OpenAI alegando que ChatGPT ayudó al atacante a planificar el atentado.
CRECIENTE OLA DE DEMANDAS RELACIONADAS CON LA IA
Las empresas de inteligencia artificial generativa se enfrentan a un número creciente de demandas que las acusan de no haber evitado las interacciones con chatbots que, según los demandantes, contribuyen a la autolesión, las enfermedades mentales y la violencia.
La demanda interpuesta por los padres de Nelson alega que inicialmente ChatGPT rechazó su solicitud de asesoramiento sobre el consumo de drogas, indicando que no podía ayudarle y advirtiéndole sobre los riesgos. Sin embargo, en 2024, la empresa lanzó ChatGPT-4o, que comenzó a proporcionarle a Nelson información sobre interacciones farmacológicas y dosificación en un lenguaje autoritario que imitaba al de un médico, según la demanda.
RESPUESTAS EN EVOLUCIÓN DEL CHATBOT
Según la demanda, el chatbot le indicó a Nelson cómo conseguir sustancias ilícitas, le aconsejó sobre qué droga tomar a continuación y le hizo sugerencias basadas en las experiencias que Nelson decía estar buscando. El chatbot guardó en su memoria detalles sobre el consumo de sustancias de Nelson, lo que le permitió ofrecer recomendaciones más personalizadas, según consta en la demanda.
La demanda acusa a OpenAI de lanzar apresuradamente ChatGPT-4o para mantenerse al día con competidores como Alphabet Google, omitiendo las pruebas de seguridad necesarias. Se acusa a la compañía de diseñar un producto defectuoso y de no advertir a los usuarios sobre sus riesgos, y se cita una ley de California que prohíbe a las empresas de IA alegar como defensa que un chatbot causó daño a una persona de forma autónoma.
Con información de Reuters.
Sigue la información sobre los negocios y la actualidad en Forbes México
¿Te gusta informarte por Google News? Sigue nuestro Showcase para tener las mejores historias
