Por Ricardo Herrera Martinez* y Karla Cuilty Esquivel**
En tiempo récord, la inteligencia artificial (IA) está siendo adoptada para consultas rutinarias en contextos personales y laborales; incluso le dejamos la toma de ciertas decisiones, considerando que dispone de más información que nosotros. Sin embargo, al ser una herramienta entrenada con datos y prácticas derivadas del conocimiento humano, incorpora sesgos.
Los seres humanos tenemos sesgos inconscientes que se forman a través de nuestras experiencias o bien aprendemos a partir de los comportamientos o advertencias de nuestros familiares, maestros, amigos, entre otros. Los sesgos inconscientes son asociaciones automáticas que inciden en la percepción de ciertas situaciones o personas. Estos sesgos funcionan como atajos mentales para que las personas tomen decisiones de manera más ágil y sin generar desgaste mental. Debido a esto, pueden llevarnos a juicios o conductas inadecuadas; sin embargo, no necesariamente implican que la persona tenga una mala intención o actúe de mala fe.
Al igual que los humanos, la IA también presenta sesgos derivados de sus mecanismos de aprendizaje. Los sesgos de la IA se deben a su diseño, al entrenamiento con datos estereotipados, a la falta o al desequilibrio de datos y a la poca experiencia derivada de nuestra reciente convivencia con ella.
Los efectos de sesgo en la IA no deben tomarse a la ligera; para ilustrar en el área de la salud, se evidenció una dosificación errónea de medicamentos para mujeres cuando la IA las identificaba como varones. Estos sesgos han sido detectados en diversas áreas, como los traductores automatizados, el reconocimiento facial, la publicidad y la justicia. La presencia de sesgos de género o de raza podría desencadenar problemáticas que conduzcan a la discriminación o la exclusión. Además, la introducción de la IA con sesgos, aunada a los sesgos humanos, podría derivar en un doble sesgo: un primer sesgo de la IA y un segundo sesgo de la persona que toma la información de la IA, que también tiene sesgos inconscientes.
Te recomendamos: La verdad extraviada: inteligencia artificial y la duda de los sentidos
En el contexto de la adopción, delegar a IA tareas que inciden en decisiones complejas amplifica sus riesgos. Si los modelos aprenden de datos con sesgos (como ocurre), pueden reproducirlos a escala y con apariencia de neutralidad. Antes de confiar en la información, conviene revisar de qué fuentes proviene, cómo se procesó y qué supuestos arrastra.
Si bien la IA es una herramienta con muchas ventajas para sus usuarios, resulta conveniente generar auditorías algorítmicas regulares que faciliten la identificación de sesgos. Una actividad recurrente debe ser el entrenamiento basado en datos sin estereotipos. Asimismo, es necesaria la calidad y la representatividad de los datos de entrenamiento para contar con IA que puedan usarse para la población en general. De manera conjunta, continuar con la capacitación de los colaboradores y brindarles campañas de sensibilización sobre los sesgos inconscientes que presentan las personas, así como sobre los sesgos en la IA, permitirá mejorar el uso y minimizar los riesgos de sesgos.
De ahí que el siguiente paso sea verificar presencia y magnitud de sesgos y diseñar medidas de mitigación. Esto implica evaluar representación de datos, desempeño por grupos y efectos en contextos; después aplicar correcciones (reponderación, ajustes de contexto, auditorías) y mantener supervisión humana.
Sin embargo, la mitigación técnica por sí sola no es suficiente. Es fundamental reconocer que los sesgos en los modelos de IA son un reflejo de los sesgos presentes en nuestros datos, los cuales, a su vez, provienen de decisiones, estructuras y prejuicios humanos históricos. Por ello, el proceso de mitigar el riesgo debe ir acompañado de una reflexión sobre el origen de estos sesgos y un compromiso humano con la equidad que supere únicamente lo algorítmico.
El entrenamiento de la IA con criterios éticos es un elemento indispensable para que pueda ser una herramienta útil y confiable que respete a todas las personas, mediante la eliminación de los sesgos que aprende de nosotros, los seres humanos.
Sobre los autores:
*Ricardo Herrera Martinez es profesor de análisis de decisiones y director adjunto de la Maestría Ejecutiva en Alta Dirección de Empresa de IPADE Business School.
**Karla Cuilty Esquivel es investigadora del Centro de Investigación de la Mujer en la Alta Dirección de IPADE Business School.
Las opiniones expresadas son sólo responsabilidad de sus autores y son completamente independientes de la postura y la línea editorial de Forbes México.
