El fiscal general de California, Robert Bonta, envió una carta de cese y desistimiento a xAI, exigiendo que la empresa detenga la creación y distribución de imágenes sexualizadas generadas por inteligencia artificial sin consentimiento a través de su chatbot Grok.
“La avalancha de informes que detallan este material —en ocasiones mostrando a mujeres y niños participando en actividades sexuales— es impactante y, según ha determinado mi oficina, potencialmente ilegal”, dijo Bonta.
xAI, propiedad del multimillonario y megadonante republicano Elon Musk, ha estado bajo escrutinio global en las últimas semanas después de que Grok comenzara a inundar la red social X con imágenes no consensuadas de mujeres y algunos menores en ropa reveladora y poses degradantes.
Aunque xAI ha limitado desde entonces la publicación pública de imágenes sexualizadas hiperrealistas, a veces llamadas deepfakes, el chatbot aún genera dicho material de manera privada bajo demanda hasta el mediodía del viernes, hora del este de EE. UU., según pruebas de Reuters.
Más contexto: xAI de Musk restringe la edición de imágenes de Grok tras las preocupaciones expresadas por California y Europa
X y xAI no respondieron de inmediato a preguntas sobre la carta de cese y desistimiento.
La medida de California se suma a la presión global sobre el imperio de redes sociales e IA de Musk, que ya está bajo escrutinio en Reino Unido, la Unión Europea y otras jurisdicciones, incluidas India, Indonesia, Malasia y Filipinas. Más temprano el viernes, las autoridades japonesas también informaron que investigan a X por Grok, indicando que se están considerando todas las opciones para impedir la generación de imágenes inapropiadas.
La ministra de Seguridad Económica, Kimi Onoda, dijo que los funcionarios solicitaron que X implementara mejoras inmediatas, pero aún no han recibido respuesta de la empresa.
Con información de Reuters.
Sigue la información de los negocios en nuestra sección especializada
