La startup xAI de Elon Musk ha restringido la función de generación de imágenes de su chatbot Grok en la red social X a los suscriptores de pago, después de que el uso de la IA para crear imágenes sexualizadas provocara una reacción negativa generalizada.
La generación de imágenes del chatbot había permitido a los usuarios de X editar o crear fotos sexualizadas, algo que Reuters comprobó que se utilizó para generar imágenes de mujeres y niños con poca ropa, a menudo sin el consentimiento de las personas representadas.
Una avalancha de imágenes semidesnudas en X llevó a legisladores europeos a pedir acciones legales, con el ministro de Medios de Alemania, Wolfram Weimer, describiéndolas como la “industrialización del acoso sexual”, y la Comisión Europea calificándolas de ilegales.
El viernes, Grok informó a los usuarios de X que las funciones de generación y edición de imágenes ahora solo están disponibles para suscriptores de pago.
La aplicación independiente de Grok, que opera por separado de X, aún permite a los usuarios generar imágenes sin suscripción.
Un reportero de Reuters pidió a Grok en X que transformara una foto suya en una en la que apareciera usando un bikini, replicando lo que se ha convertido en una solicitud común entre los usuarios durante la última semana. El bot no lo hizo y respondió que la herramienta solo estaba disponible para los suscriptores de pago de la plataforma de redes sociales.
En lo que pareció ser una respuesta automatizada, xAI contestó a una solicitud de comentarios enviada por correo electrónico por Reuters diciendo “Los medios tradicionales mienten”. X no respondió de inmediato a una solicitud de comentarios.
La Comisión Europea afirmó el lunes que las imágenes que circulan en X eran ilegales y repugnantes, mientras que el regulador de datos del Reino Unido señaló que había pedido a la plataforma que explicara cómo estaba cumpliendo las leyes de protección de datos tras las preocupaciones de que Grok estuviera generando imágenes sexualmente abusivas de mujeres.
Musk dijo la semana pasada que cualquiera que utilice Grok para crear contenido ilegal enfrentará las mismas consecuencias que si subiera ese material directamente.
Con información de Reuters.
Sigue la información de la tecnología en nuestra sección especializada
