Por Mario Chao*
La inteligencia artificial Generativa (IA generativa) se ha convertido en un jugador clave en el campo de la inteligencia artificial. Su capacidad de crear contenido desde cero -lo mismo un texto que música- ha abierto un sinfín de posibilidades para diversas industrias.
Por ejemplo, en el sector bancario es empleada para detectar fraudes o blindar los datos personales de los usuarios. Mientras que en la educación ha sido útil para personalizar algún curso o recrear simulaciones virtuales para aprender.
Sumado a lo anterior, el auge y la democratización de aplicaciones como ChatGPT, Gemini o la reciente DeepSeek, ha exponenciado significativamente los beneficios de esta tecnología. Ofreciendo un potencial casi ilimitado. Sin embargo, su rápido crecimiento y amplio uso pone en evidencia desafíos éticos que no podemos ignorar; señala el estudio “Consideraciones éticas de la IA generativa”, de NTT DATA.
Uno de los principales problemas es la manipulación y desinformación. Han aumentado estafas en las que, con ayuda de la IA, suplantan la identidad de alguien para recrear su voz e imagen. Como resulta difícil distinguir entre qué es real y qué no, han dado lugar a deepfakes que se vuelven una gran amenaza.
Otro aspecto crítico es la privacidad y el uso indebido de datos. Sabemos que los modelos de GenAI son entrenados con grandes volúmenes de datos e información, incluyendo contenido protegido por derechos de autor y datos personales. Sin regulaciones claras, existe un vacío legal sobre la propiedad intelectual de las creaciones de IA. Esto ha afectado, en mayor medida, a artistas o músicos.
Además, la transparencia y la rendición de cuentas siguen siendo desafíos clave. Las plataformas impulsadas por esta tecnología suelen operar como “cajas negras”, lo que dificulta entender cómo toman decisiones. Pueden generar sesgos de género en los resultados, reforzar mensajes discriminatorios y crear contenido ofensivo.
Frente a estos retos, es primordial que tanto las empresas como los gobiernos tomen la responsabilidad de exigir mayor transparencia y darle la dirección correcta para seguir aprovechando el gran potencial de la IA Generativa.
Esta estrategia se puede atender desde diversas trincheras. Internamente, las entidades pueden capacitar constantemente a su talento. Esto no solo les ayudaría a tener claro cómo sí o no entrenar sus modelos, también les permitiría sortear los retos que se presenten a futuro, a mantenerse competitivos y, sobre todo, ir cubriendo la brecha de habilidades que hay en el sector.
Por otro lado, se necesita un marco regulatorio que garantice su uso equitativo y seguro. Con mecanismos sólidos de supervisión que garanticen que esta tecnología se utiliza para el bien común, no como amenaza.
Y lo más importante, las decisiones que se tomen para construir un ecosistema digital ético y sostenible no dependen de los algoritmos, sino de los profesionales encargados de entrenar esta inteligencia. Si desarrolladores, empresas y gobiernos colaboran activamente, auguro que la IA Generativa tendrá un impacto más positivo e inclusivo.
Sobre el autor:
*Mario Chao, CEO de NTT Data México
Las opiniones expresadas son sólo responsabilidad de sus autores y son completamente independientes de la postura y la línea editorial de Forbes México.
¿Te gusta informarte por Google News? Sigue nuestro Showcase para tener las mejores historias
Sigue la información sobre los negocios y la actualidad en Forbes México
