Hace apenas unos años, la inteligencia artificial era presentada como la gran herramienta que transformaría nuestras vidas: automatizaría tareas repetitivas, predeciría enfermedades, mejoraría la educación, ayudaría a reducir la desigualdad digital. Se hablaba de sus usos para combatir la desinformación, asistir en investigaciones científicas y facilitar el acceso a la justicia. La promesa era clara: un mundo más eficiente, más justo y más seguro gracias a la tecnología.
Pero la realidad tomó un giro menos utópico. Con el auge de modelos como ChatGPT o Gemini, los usuarios comenzaron a experimentar con sus capacidades no solo creativas, sino también con sus límites éticos. En lugar de usarlas exclusivamente para resolver problemas sociales, muchos hallaron en ellas un vehículo para perpetuar prejuicios, burlarse de figuras públicas o, en los casos más graves, para hostigar a otras personas.
Uno de los ejemplos más recientes lo protagoniza Grok, la IA conversacional integrada en la red social X (antes Twitter). Grok fue presentada como una alternativa rebelde e irreverente a los chatbots tradicionales, supuestamente menos censurada y más “divertida”. Sin embargo, varios usuarios —en su mayoría hombres— comenzaron a utilizarla para generar descripciones sexuales o eróticas de otras usuarias de la plataforma, sin su consentimiento. Bastaba con proporcionar el nombre de la persona, una imagen de perfil y un contexto narrativo para que Grok accediera a crear una historia con alto contenido sexual, incluso cuando se trataba de figuras públicas o activistas. En otros casos, las solicitudes buscaban provocar polémicas políticas, como generar narrativas sexuales con funcionarias, periodistas o liderazgos feministas, a manera de “venganza digital”.
Te interesa: Grok de Elon Musk se enfrenta al escrutinio mundial por deepfakes sexualizados de IA
¿Es esto un delito? En muchos países, aún no. Las leyes no han logrado alcanzar la velocidad del desarrollo tecnológico, y casos como estos quedan en zonas grises. En México, por ejemplo, la Ley Olimpia protege a las personas contra la difusión de contenido íntimo sin consentimiento, pero no está diseñada específicamente para casos donde una IA genera contenido ficticio a pedido de terceros. Sin embargo, si se demuestra que estas acciones causan daño moral o psicológico, podría haber margen para demandas por difamación, violencia digital o daño a la imagen personal.
Mientras no existan protocolos claros para denunciar este tipo de violencia algorítmica, las opciones son limitadas: reportar a la plataforma, exigir la eliminación del contenido, o incluso alertar a organismos como el INAI cuando hay implicaciones más amplias de género o privacidad. La solución de fondo, sin embargo, no será tecnológica ni jurídica únicamente: requiere una conversación urgente sobre los usos éticos de la IA, los límites de la libertad de expresión y la responsabilidad de las plataformas para proteger a sus usuarias. Porque cuando una herramienta poderosa se usa para humillar, el problema ya no es técnico: es estructural.
Sobre el autor:
Twitter: @sincreatividad
Las opiniones expresadas son sólo responsabilidad de sus autores y son completamente independientes de la postura y la línea editorial de Forbes México.
