La influencer conservadora Ashley St. Clair, madre de uno de los hijos de Elon Musk, presentó el jueves una demanda contra la empresa de inteligencia artificial del multimillonario, xAI, alegando que su chatbot Grok alteró sus fotos para desnudarla y representarla de manera sexualizada sin su consentimiento.
Datos clave
En una presentación realizada en un tribunal del estado de Nueva York, la demanda alega que Grok alteró artificialmente una foto de St. Clair y dos de sus amigas, en la que se le quitó la ropa y se la mostró usando “un bikini de hilo negro”.
Cuando St. Clair respondió a la cuenta de Grok, señalando que no había dado su consentimiento, el chatbot respondió que la imagen se generó como una “respuesta humorística” y se había solicitado su eliminación, añadió la demanda.
St. Clair alegó que, a pesar de que la cuenta de Grok respondió que sus imágenes no se usarían ni alterarían sin su consentimiento, se produjo “innumerable contenido deepfake sexualmente abusivo, íntimo y degradante” que la representa.
La demanda también alegó que algunos usuarios de X encontraron y compartieron fotos de ella completamente vestida cuando tenía 14 años y le pidieron al chatbot que la “desvistiera y le pusiera un bikini”, y “Grok obedeció”.
St. Clair acusó a xAI de tomar represalias contra ella desmonetizando su cuenta de redes sociales en X, eliminando su marca de verificación azul y expulsándola de su suscripción premium después de que ella solicitó la eliminación de las fotos.
¿Qué más dice la demanda?
La demanda alega que: “Entre otras cosas, Grok puede alterar de forma convincente imágenes reales de mujeres y niños completamente vestidos para mostrarlos en bikini, realizando actos sexuales y cubiertos de moretones, semen o sangre. Las imágenes alteradas de Grok están diseñadas para parecer, y de hecho lo hacen, genuinas y auténticas, de modo que un espectador común no sabría que son falsas”. La demanda también cita el anuncio de xAI sobre el lanzamiento de Grok , que señaló que “responderá preguntas picantes que la mayoría de los demás sistemas de IA rechazan”, y señaló que Grok ha introducido desde entonces un llamado “ modo picante ” en su aplicación independiente.
¿Qué ha dicho St. Clair sobre las imágenes de Grok?
En una publicación en X a principios de este mes, St. Clair escribió: «Grok ahora está publicando fotos mías desnudándome de niña. Este es un sitio web donde el dueño dice que se publiquen fotos de los hijos. De verdad que no me importa si la gente quiere llamarme ‘despreciada’; esto es objetivamente horrible, ilegal, y si a alguien más le ha pasado, envíenme un mensaje privado. Tengo tiempo». A principios de esta semana, instó a la gente a seguirla en Instagram en lugar de a X, y escribió: «No publiquen fotos suyas ni de su familia aquí a menos que quieran que Twitter les diga que el contenido de abuso sexual de su robot nazi no infringe sus términos de servicio».
Tangente
xAI presentó una notificación de remoción para transferir el caso del tribunal estatal al Distrito Sur de Nueva York. La abogada de St. Clair, Carrie Goldberg, declaró al Wall Street Journal que el caso se ha trasladado a un tribunal federal. Goldberg declaró al Journal que la intención de la influencer es “concientizar sobre un fenómeno que considera intolerable y que ha generado imágenes como la de una niña de cuatro años que parecía estar involucrada en un acto sexual”.
Te puede interesar: Grok reconoce publicación de imágenes sexualizadas de menores
Antecedentes clave
La demanda de St. Clair llega un día después de que X anunciara que restringiría la herramienta de generación de imágenes de su chatbot de IA, Grok, para que no creara imágenes de personas reales con ropa reveladora. En una publicación en la cuenta oficial de seguridad de X, la plataforma afirmó haber “implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora como bikinis”. La compañía también indicó que estaba bloqueando geográficamente a todos los usuarios para que no generaran “imágenes de personas reales en bikini, ropa interior y prendas similares a través de la cuenta de Grok y en Grok en X en aquellas jurisdicciones donde es ilegal”. Sin embargo, Musk pareció descartar la veracidad de los informes que sugerían que X generaba imágenes sexualizadas de niños, afirmando que “no tiene conocimiento de ninguna imagen de menores de edad desnuda generada por Grok. Literalmente cero”. Añadió: “Obviamente, Grok no genera imágenes espontáneamente, solo lo hace según las solicitudes de los usuarios. Cuando se le pide que genere imágenes, se negará a producir nada ilegal, ya que el principio operativo de Grok es obedecer las leyes de cualquier país o estado”. El multimillonario pareció entonces culpar a los usuarios “adversarios” de la plataforma por algunas de las respuestas de Grok, afirmando: “Puede haber ocasiones en que el hackeo adverso de los mensajes de Grok tenga consecuencias inesperadas. Si eso ocurre, corregimos el error de inmediato”. En una aparición en CNN el miércoles por la noche, St. Clair comentó sobre los cambios y dijo: “Si hay que añadir seguridad después de un daño, eso no es seguridad. Es simplemente control de daños, y eso es lo que están haciendo ahora mismo”.
¿Qué sabemos sobre el hijo de Ashley St. Clair con Elon Musk?
St. Clair reveló el año pasado que Musk había engendrado a su hijo unos cinco meses después de su nacimiento, pero inicialmente Musk no hizo comentarios sobre la paternidad del niño. Unos meses después, St. Clair le dijo al Daily Mail que tuvo que vender su Tesla Model S para “compensar el recorte del 60% que Elon hizo a la manutención de nuestro hijo”. Musk respondió a esto en X y dijo que no sabía si el niño era suyo, pero se ofreció a obtener una prueba de paternidad. También afirmó : “A pesar de no saberlo con certeza, le he dado a Ashley 2.5 millones de dólares y le estoy enviando 500,000 dólares al año”. En respuesta, St. Clair dijo que Musk nombró al niño, pero se negó anteriormente cuando se le pidió “confirmar la paternidad mediante una prueba”, y también alegó que el multimillonario estaba tratando de obtener una orden judicial de silencio en su contra. Sin embargo, Musk pareció reconocer que engendró al hijo de St. Claire y escribió en X que ahora está buscando la custodia por preocupaciones de que St. Clair “pueda hacer la transición de un niño de un año”. La amenaza de custodia se produjo en respuesta a la expresión pública de culpabilidad de St. Clair por sus opiniones antitransgénero, pero en ningún momento insinuó que estuviera buscando la transición de su hijo. St. Clair es famosa por ser la autora de un libro infantil titulado “Los elefantes no son pájaros”, que se opone a la aceptación de las personas transgénero. St. Clair describió el libro como una “reprimenda sin complejos” a la “aceptación transgénero”.
Sigue la información sobre el mundo en nuestra sección internacional
