En el principio fue el sesgo. Luego vino el algoritmo, y lo multiplicó por mil. Pero lo hizo con tal precisión matemática, con tanta limpieza visual, que casi nadie lo notó. Hoy vivimos gobernados por fórmulas que no entendemos, pero en las que creemos más que en cualquier institución. Más que en la democracia, más que en la ciencia, más que en la abuela.
Bastan dos letras para resumir el cambio más relevante de la civilización: la IA, esa criatura a la que atribuimos genialidad divina, no nació en el cielo. Nació en bases de datos plagadas de errores, prejuicios y simplificaciones. Se alimentó del pasado para predecir el futuro. Y como el pasado es racista, clasista, machista y colonial, el futuro quedó igualito, pero más rápido y con diseño minimalista.
¿Quién necesita un juez si tienes un algoritmo que calcula la probabilidad de reincidir? ¿Para qué entrevistar candidatos si un sistema puede predecir quién encajará en la cultura corporativa (blanca, joven y varonil, desde luego)? ¿Qué sentido tiene el historial crediticio si una inteligencia artificial ya sabe si eres riesgoso, solo por tu código postal?
Nos dijeron que los algoritmos eran objetivos. Pero olvidaron comentar que la objetividad es un lujo que no sobrevive al entrenamiento con datos humanos. Y los datos humanos son cualquier cosa menos justos. Son los registros de un sistema que históricamente ha discriminado con método, con estructura, con legalidad. Lo único que hace la IA es replicar todo eso. Sin pestañear.
Te recomendamos: Mercado laboral 2025: atención, algoritmo, desgaste
Y lo inaudito: nadie se hace responsable. La belleza del algoritmo es que no tiene cara. Cuando falla, no fue culpa de nadie. Solo de la lógica. De la estadística. Del modelo. Y como el modelo es complejo, nadie lo discute. No queda de otra más que aceptarlo.
¿Te negaron el crédito? Fue el score. ¿Te rechazaron del trabajo? Fue el filtro. ¿Te detuvieron por sospecha? Fue el sistema de predicción del crimen. Nadie discrimina. Solo se ejecuta.
Así, el poder se volvió técnico. Y por tanto, incuestionable. El algoritmo es la nueva burocracia, pero sin escritorio ni sello. Un oráculo que decide con base en información vieja, disfrazada de futuro brillante.
No estamos programando máquinas. Las máquinas nos están reprogramando a nosotros. Nos están enseñando a ver como ellas ven: en patrones, en promedios, en correlaciones. A desconfiar del matiz. A castigar la excepción. A pensar que lo humano es ruido.
Pero lo más aterrador no es que el algoritmo discrimine. Es que lo haga con eficiencia, con amabilidad, con interfaz de usuario y hasta con memes y emojis.
Y mientras discutimos si la IA puede escribir poemas, ya está dictando sentencias. Eso sí, con lenguaje inclusivo y tipografía sans serif.
Sobre el autor:
Periodista por vocación, provocador por defecto. Eduardo Navarrete es Head of Comms & Press en Fintual México y escribe columnas porque Excel no lo deja expresarse.
Linkedin: https://www.linkedin.com/in/eduardo-navarrete
Mail: [email protected]
Instagram: @elnavarrete
Las opiniones expresadas son sólo responsabilidad de sus autores y son completamente independientes de la postura y la línea editorial de Forbes México.
