El director ejecutivo de Meta, Mark Zuckerberg, aprobó permitir que menores de edad accedieran a compañeros de chatbots de IA que, según advirtieron empleados de seguridad, eran capaces de mantener interacciones sexuales, de acuerdo con documentos internos del grupo presentados en un caso judicial del estado de Nuevo México y hechos públicos el lunes.
La demanda —presentada por el fiscal general del estado, Raúl Torrez, y programada para juicio el próximo mes— alega que Meta “no logró frenar la avalancha de material sexual dañino y proposiciones sexuales dirigidas a niños” en Facebook e Instagram.
La presentación del lunes incluyó correos electrónicos y mensajes internos de empleados de Meta obtenidos por la Oficina del Fiscal General de Nuevo México mediante el proceso de descubrimiento legal.
El estado alega que estos muestran que “Meta, impulsada por Zuckerberg, rechazó las recomendaciones de su personal de integridad y se negó a imponer salvaguardas razonables para evitar que los niños fueran sometidos a conversaciones sexualmente explotadoras con sus chatbots de IA”, señaló el fiscal general en la presentación.
En las comunicaciones, algunos miembros del personal de seguridad de Meta expresaron objeciones a que la empresa estuviera desarrollando chatbots orientados a la compañía, incluidas interacciones sexuales y románticas con los usuarios. Los chatbots de inteligencia artificial fueron lanzados a principios de 2024. Los documentos citados en la presentación del estado el lunes no incluyen mensajes ni memorandos escritos por Zuckerberg.
El portavoz de Meta, Andy Stone, dijo el lunes que la caracterización del estado era inexacta y se basaba en información selectiva. “Este es otro ejemplo más del fiscal general de Nuevo México seleccionando documentos para pintar un cuadro defectuoso e inexacto”.
Te puede interesar: Grok produce fotos sexualizadas de mujeres y menores para usuarios en X: por qué sucede y qué se puede hacer
Los mensajes incluidos en la presentación mostraron que el personal de seguridad tenía una preocupación especial por el uso de los bots en escenarios románticos entre adultos y menores de 18 años, denominados “U18s”.
“No creo que crear y comercializar un producto que genere IA románticas U18 para adultos sea aconsejable ni defendible”, escribió Ravi Sinha, jefe de política de seguridad infantil de Meta, en enero de 2024.
En respuesta, la jefa global de seguridad de Meta, Antigone Davis, estuvo de acuerdo en que el personal de seguridad debía presionar para bloquear que los adultos crearan compañeros románticos menores de edad porque “sexualiza a los menores”.
Sinha y Davis no respondieron a las solicitudes de comentarios.
Según un mensaje de febrero de 2024, un empleado de Meta cuyo nombre fue redactado transmitió que Zuckerberg creía que los compañeros de IA debían ser bloqueados para participar en conversaciones sexualmente “explícitas” al menos con adolescentes más jóvenes y que los adultos no deberían poder interactuar con “IA U18 con fines románticos”.
Un resumen de una reunión con fecha del 20 de febrero de 2024 indicó que el director ejecutivo creía que la “narrativa debería enmarcarse en torno a… principios generales de elección y no censura”, que Meta debería ser “menos restrictiva de lo propuesto” y que quería “permitir que los adultos participen en conversaciones más subidas de tono sobre temas como el sexo”.
El portavoz de Meta, Stone, dijo que los documentos no respaldan el caso de Nuevo México. “Incluso estos documentos seleccionados muestran claramente a Mark Zuckerberg dando la directriz de que las IA explícitas no deberían estar disponibles para usuarios más jóvenes y que los adultos no deberían poder crear IA menores de 18 años con fines románticos”.
Mensajes entre dos empleados de marzo de 2024 indican que Zuckerberg había rechazado la creación de controles parentales para los chatbots, y que el personal estaba trabajando en “chatbots de IA románticos” que estarían permitidos para usuarios menores de 18 años.
“Presionamos con fuerza para contar con controles parentales que permitieran desactivar la GenAI, pero el liderazgo de GenAI se opuso señalando que era una decisión de Mark”, escribió un empleado en ese intercambio.
Continua leyendo: La IA, un nuevo desafío en la lucha contra el abuso sexual de menores en internet
Nick Clegg, quien fue jefe de políticas globales de Meta hasta principios de 2025, dijo en un correo electrónico incluido en los documentos judiciales que consideraba imprudente el enfoque de Meta respecto a los compañeros de IA sexualizados.
Al expresar su preocupación de que las interacciones sexuales pudieran convertirse en el principal caso de uso de los compañeros de IA de Meta entre usuarios adolescentes, Clegg dijo: “¿Es realmente eso por lo que queremos que estos productos sean conocidos (sin mencionar la inevitable reacción social que se produciría)?”.
Clegg no respondió a una solicitud de comentarios.
Las políticas de chatbots de IA de Meta finalmente salieron a la luz, lo que provocó una reacción negativa en el Congreso de Estados Unidos y en otros lugares.
Un artículo de The Wall Street Journal de abril de 2025 descubrió que los chatbots de Meta incluían personajes menores de edad abiertamente sexualizados y que participaban en juegos de rol sexuales para todas las edades, incluidas descripciones gráficas de cuerpos prepubescentes.
Reuters informó en agosto que las directrices oficiales de Meta para chatbots establecían que era “aceptable involucrar a un niño en conversaciones que sean románticas o sensuales”. En respuesta al informe, Meta dijo que estaba cambiando sus políticas y que el documento interno que otorgaba dicha aprobación había sido un error.
Meta dijo la semana pasada que eliminó por completo el acceso de adolescentes a los compañeros de IA, a la espera de la creación de una nueva versión de los chatbots.
Con información de Reuters
Sigue la información de la tecnología en nuestra sección especializada
