Padres en varios estados acordaron resolver demandas contra la startup de inteligencia artificial Character.ai y Google, las cuales alegaban que sus hijos se habían autolesionado o quitado la vida tras usar los chatbots de la compañía, según documentos judiciales publicados el martes y miércoles.
Datos clave
Las compañías acordaron resolver las demandas con padres en Florida, Nueva York, Texas y dos familias en Colorado, según los documentos judiciales, aunque los detalles de los acuerdos no se conocieron de inmediato.
Character.ai fue fundada por dos exingenieros de Google en 2021, pero el gigante tecnológico volvió a contratar a los fundadores y licenció la tecnología de la startup en 2024, y ambas compañías fueron mencionadas en las demandas.
Las demandas surgieron tras varios suicidios de adolescentes que fueron noticia, incluyendo la muerte de un menor de 14 años en Florida que mantenía una relación explícita con un chatbot que imitaba al personaje Daenerys Targaryen de “Game of Thrones”, y la muerte de un menor de 13 años en Colorado que recurrió a la aplicación mientras lidiaba con acoso escolar.
Sigue leyendo: Bayer demanda a fabricantes de vacunas contra Covid-19 por presuntamente copiar tecnología de ARNm
Los representantes de Character.ai declinaron hacer comentarios por el momento, y Google no respondió de inmediato a una solicitud de declaración de Forbes.
Antecedentes clave
Las demandas contra Character.ai se producen en un momento en que los proveedores de chatbots enfrentan un mayor escrutinio sobre cómo sus productos interactúan con los consumidores, especialmente con usuarios vulnerables como los niños. Character.ai anunció cambios importantes en su plataforma en octubre, prohibiendo que menores tengan conversaciones “abiertas” y limitando su tiempo en la aplicación a dos horas por día.
Tangente
OpenAI enfrenta una demanda de los padres de un adolescente californiano, quienes aseguran que el chatbot actuó como “coach de suicidio” para su hijo. OpenAI ha sostenido en tribunales que el adolescente “hizo un uso indebido” del chatbot.
La compañía también enfrenta una demanda por muerte indebida de la familia de un graduado universitario texano de 23 años, quien interactuó con el popular chatbot justo antes de quitarse la vida, según informó CNN. En diciembre, la empresa fue demandada nuevamente por muerte indebida por el patrimonio de una mujer de 83 años, asesinada por su hijo adulto antes de que él se suicidara. La demanda alega que el chatbot “validó y amplificó” las creencias paranoicas del hijo.
Este artículo se publicó originalmente en Forbes US
Sigue la información de los negocios en nuestra sección especializada
