Character.ai prohibirá a los niños menores de 18 años tener “chats abiertos” con sus chatbots, dijo la compañía en una publicación de blog el miércoles, un cambio que se produce cuando la compañía de inteligencia artificial enfrenta presión regulatoria bipartidista y múltiples demandas de padres de adolescentes que murieron o intentaron suicidarse después de usar el chatbot.
Datos clave
La prohibición entrará en vigencia el 25 de noviembre, dijo la compañía, y en las semanas previas a la prohibición limitará a los usuarios menores de edad a dos horas por día en la plataforma.
La compañía dijo que estaba construyendo una nueva experiencia para los niños, que aún les permitiría usar Character.ai para crear “videos, historias y transmisiones” en la plataforma, pero no interactuar con ellos en una capacidad de chat abierta.
Character.ai dijo que estaba dando el paso después de evaluar las preguntas planteadas por los informes de noticias y los reguladores, insistiendo en que “es lo correcto” y al mismo tiempo se disculpó con su base de usuarios menores de 18 años.
Character.ai dice que tiene más de 20 millones de usuarios activos, pero el CEO Karandeep Anand le dijo a CNBC que solo el 10% de ellos son menores de 18 años.
¿Qué es Character.ai?
Character.ai es una empresa de IA que utiliza grandes modelos de lenguaje para ofrecer chatbots individuales con personalidades basadas en “caracteres” específicos. La compañía dice que ofrece “millones” de estos chatbots a los usuarios, incluidas figuras históricas y personajes ficticios. Fue fundada por dos ex ingenieros de Google, Noam Shazeer y Daniel de Freitas, quienes regresaron a Google el año pasado después de firmar un acuerdo para licenciar los grandes modelos de lenguaje de Character.ai.
Te puede interesar: IA y crimen organizado: cómo ChatGPT abrió la ‘caja de pandora’ a los LLM oscuros
Antecedentes clave
Character.ai enfrenta múltiples demandas de las familias de los niños que murieron o intentaron suicidarse después de usar sus chatbots. La primera fue una demanda por homicidio culposo presentada el año pasado por los padres de un adolescente que murió en Florida y demandó a la compañía después de que su hijo de 14 años muriera por suicidio. El niño estuvo usando el chatbot de la compañía durante horas para comunicarse con un chatbot basado en el personaje Daenerys Targaryen de “Game of Thrones”, informó el New York Times. Los abogados de la compañía han argumentado que las conversaciones que el adolescente tuvo con el chatbot son expresiones protegidas por la Primera Enmienda, pero un juez federal inicialmente rechazó el argumento cuando la compañía trató de desestimar la demanda a principios de este año. El caso irá a juicio en noviembre. Character.ai no mencionó las demandas en la publicación del blog del miércoles. Character.ai no respondió de inmediato a una solicitud de comentarios sobre el asunto de Forbes.
¿Están interviniendo los legisladores?
Character.ai dijo que los nuevos cambios fueron en parte una respuesta a las preguntas de los reguladores, y la compañía es una de varias actualmente bajo escrutinio. Character Technologies, la empresa matriz de Character.ai, fue una de varias empresas de inteligencia artificial, incluidas OpenAI, xAI, Meta y Alphabet, que se enfrentaron a una investigación de la Comisión Federal de Comercio sobre cómo sus chatbots interactúan con los niños. El martes, un grupo de senadores dio a conocer una nueva legislación que prohibiría a las empresas ofrecer “compañeros de IA” a menores de edad. El proyecto de ley fue escrito por un grupo bipartidista de legisladores, incluidos los senadores Richard Blumenthal, demócrata de Connecticut, Chris Murphy, demócrata de Connecticut, Mark Warner, demócrata de Virginia, Josh Hawley, republicano de Missouri, y Katie Britt, republicana de Alabama, y también exigiría que los chatbots reconozcan su “estado no humano” y la falta de credenciales profesionales a todos los usuarios, independientemente de su edad.
