La empresa de inteligencia artificial de Elon Musk, xAI, dijo a última hora del miércoles que impuso restricciones a todos los usuarios de su chatbot de IA Grok que limitan la edición de imágenes, después de que el servicio produjera imágenes sexualizadas que despertaron preocupaciones entre reguladores de todo el mundo.
Desde Europa hasta Asia, gobiernos y reguladores están tomando medidas enérgicas contra el contenido sexualmente explícito generado por Grok, imponiendo prohibiciones y exigiendo salvaguardas en un creciente impulso global para frenar el material ilegal.
“Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis”, dijo la empresa en una publicación en X.
“Esta restricción se aplica a todos los usuarios, incluidos los suscriptores de pago”.
Imágenes hiperrealistas de mujeres manipuladas para que parecieran llevar bikinis microscópicos, en poses degradantes o cubiertas de moretones comenzaron a inundar la plataforma de redes sociales X este mes. En algunos casos, menores fueron despojados digitalmente hasta quedar en ropa de baño, lo que provocó amplias críticas.
La semana pasada, Grok comenzó a permitir que solo los suscriptores de pago utilizaran sus funciones de generación y edición de imágenes.
Te puede interesar: TSMC bate sus previsiones con un beneficio récord gracias al auge de la IA
X redujo la capacidad de Grok para generar o editar imágenes públicamente para muchos de sus usuarios, pero el chatbot aún producía de forma privada imágenes con carga sexual bajo demanda el miércoles, antes del anuncio de xAI, según constató Reuters.
El multimillonario Musk es propietario de xAI, que a su vez es dueña de X, anteriormente conocida como Twitter.
El miércoles, xAI añadió que bloquea a los usuarios, según su ubicación, para que no generen imágenes de personas con ropa escasa en “jurisdicciones donde es ilegal”. No identificó esas jurisdicciones.
Funcionarios de California exigen respuestas
Más temprano el miércoles, el gobernador y el fiscal general de California dijeron que estaban exigiendo respuestas a xAI después de que Musk afirmara que no tenía conocimiento de ninguna “imagen desnuda de menores” generada por Grok.
“Estamos exigiendo respuestas inmediatas de xAI sobre su plan para detener la creación y difusión de este contenido”, escribió el fiscal general de California, Rob Bonta, en X.
El gobernador Gavin Newsom instó a Bonta a “investigar de inmediato a la empresa y exigir responsabilidades a xAI”.
Los comentarios de Newsom y Bonta fueron hasta ahora los más serios por parte de funcionarios estadounidenses que abordan la explosión de imágenes sexualizadas no consentidas generadas por IA en X.
La medida de California aumentó la presión que enfrenta Musk en Estados Unidos y en todo el mundo. Legisladores y grupos de defensa han pedido a Apple y Google que retiren Grok de las tiendas de aplicaciones.
Al principio, Musk se burló públicamente de la controversia, publicando emojis humorísticos en respuesta a los comentarios de los usuarios sobre la avalancha de fotos sexualizadas.
Más recientemente, X ha dicho que trata con seriedad los informes de material de abuso sexual infantil y que lo vigila de manera estricta.
A principios del miércoles, Musk dijo que “no tenía conocimiento de ninguna imagen desnuda de menores generada por Grok. Literalmente cero”.
X no respondió de inmediato a las preguntas sobre el anuncio de California y los comentarios de Musk.
xAI no respondió directamente a una solicitud de comentarios enviada por correo electrónico sobre las declaraciones de los funcionarios de California o la publicación de Musk en la que decía no tener conocimiento de imágenes sexualizadas de menores.
Reuters recibió su respuesta automática genérica a las consultas: “Los medios tradicionales mienten”.
Con información de Reuters.
¿Te gustan las fotos y las noticias?, síguenos en nuestro Instagram
