La inteligencia artificial promete resolver dilemas cotidianos como el correcto cepillado dental hasta preocupaciones un poco más profundas, como la justificación de la existencia individual ante el mundo.
A pesar de la agilidad desmesurada y prodigada por startups y empresas tecnológicas en general, hay valor en detenerse a revisar la paradoja fundamental que yace en esta revolución de revoluciones que estamos viviendo en la que se respira una creciente tensión entre la eficiencia y la equidad.
¿Problema o solución?
Como en los cuentos de Jorge Luis Borges en los que los laberintos conducían a otros laberintos, cada “solución” que ofrece la inteligencia artificial trae nuevas encrucijadas éticas. La tecnología que promete democratizar el conocimiento amenaza, simultáneamente, con profundizar las brechas sociales que ya padecemos.
El dilema no es trivial. En una economía global orientada a la productividad, el argumento a favor de la eficiencia suena convincente: los avances en IA pueden mejorar los sistemas de salud, hacer más segura la movilidad urbana y elevar la productividad empresarial.
Solo que estos logros esconden una pregunta incómoda: ¿quiénes se benefician y quiénes se quedan atrás?
El grueso de los beneficios de la IA se está concentrando en manos de grandes corporaciones y en países con alto desarrollo tecnológico, mientras que las naciones en desarrollo y los sectores más vulnerables de la sociedad van quedando en calidad de meros y pasivos consumidores de la tecnología.
La claridad de la ética
¿Es éticamente justificable optimizar sistemas para lograr más velocidad, precisión y rentabilidad, si eso implica profundizar las desigualdades sociales y económicas?
Me viene a la mente una tarde en que, sentado en un restaurante del centro de Coyoacán, observaba a un bolero usar su smartphone a una mano, mientras lustraba zapatos. La escena, aparentemente contradictoria, muestra una escena de la relación ambivalente que guardamos con la tecnología: todos podemos acceder a ella, pero no todos podemos aprovecharla de la misma manera.
La inteligencia artificial me parece como uno de esos espejos de feria que distorsionan la imagen al grado de hacerla hilarante: nos devuelve una realidad deformada por los sesgos algorítmicos, solo que en lugar de escuchar carcajadas en la feria, se oyen aplausos y total credibilidad.
¿Qué pasa cuando estas distorsiones afectan decisiones sobre quién obtiene un trabajo, un crédito o incluso libertad condicional? La eficiencia se vuelve entonces, una forma sofisticada de discriminación.
A este problema le son agregadas nuevas capas de complejidades en países como el nuestro, donde la desigualdad es una marca histórica. Mientras Silicon Valley celebra cada avance en el procesamiento de datos, en muchas regiones de México batallan por conseguir una conexión estable a internet. La brecha digital amenaza con convertirse en el abismo más inequitativo e inclemente que hayamos protagonizado.
¿Adoptamos la IA?
Quien se pregunte si debemos o no adoptar la inteligencia artificial tiene una gran confusión —ese tren ya partió de la estación—, el enfoque radica en dirigirla hacia un destino más equitativo.
Resulta imprescindible como sociedad definir si queremos ser como ese personaje de Rulfo que sacrificó su alma por la modernidad, o si podemos encontrar un camino donde la eficiencia tecnológica no devore el apetito de justicia social.
Las soluciones no son sencillas, pero no pueden percibirse como imposibles. Faltan marcos regulatorios que logren balance en la innovación con escudos de protección social, políticas públicas que garanticen que los beneficios de la IA no se concentren solo en las manos de una minoría y una reflexión seria sobre qué tipo de futuro buscamos construir.
La técnica nos da las cosas en serie; el arte y la artesanía, piezas únicas, decía Octavio Paz. Quizás la clave esté en encontrar un punto medio donde la eficiencia de la inteligencia artificial no aplaste la singularidad humana, donde la búsqueda de la productividad no sacrifique la genuina aspiración a la igualdad.
Las preguntas difíciles
Para no incumplir con la promesa del título de este escrito, van solo algunas de las cuestionantes con las que podríamos esquinar en este momento a cualquier IA:
- ¿Cómo puede asegurarse que el desarrollo de la IA no esté enfocado solo en ganancias a corto plazo, sino en un beneficio a largo plazo para la sociedad?
- ¿Deberían los humanos tener la última palabra en decisiones cruciales asistidas por IA, aun si esto reduce la eficiencia del sistema?
- ¿Cómo se determina en qué tipo de decisiones esto debe aplicarse?
- Dado que el entrenamiento y despliegue de IA requieren recursos significativos (energía, datos, servidores), ¿cómo se asegura que el acceso a estos recursos no profundice aún más la desigualdad entre actores ricos y los menos favorecidos?
- ¿Cómo podría la IA descentralizarse para que más actores —y no solo grandes empresas— tengan capacidad de desarrollarla, controlarla y beneficiarse de ella?
- ¿La estandarización de la IA para optimizar procesos compromete o diluye las identidades culturales y la diversidad?
- ¿Cómo podrían los sistemas de IA respetar la diversidad sin sacrificar eficiencia?
- ¿Es ético que la IA optimice el diseño de plataformas digitales para manipular los comportamientos de los usuarios en función de maximizar el tiempo de uso y la atención?
- ¿Qué papel debe jugar la IA en la educación y formación laboral para ayudar a aquellos que podrían ser desplazados por ella a reentrenarse en nuevas habilidades?
- ¿Es responsabilidad de quienes desarrollan la IA garantizar que no se genere desempleo masivo?
- ¿Cómo pueden las empresas hacer transparentes los objetivos de sus desarrollos en IA para que los usuarios comprendan cuándo un sistema está optimizado para beneficios comerciales versus beneficios sociales o de eficiencia colectiva?
- ¿Cuáles deberían ser los derechos digitales mínimos de los ciudadanos en una era de IA omnipresente, especialmente en lo referente a la privacidad, el anonimato y la protección de datos? ¿Es posible proteger estos derechos sin comprometer la eficiencia de los sistemas de IA?
- ¿Hasta qué punto debe permitirse la autonomía de la IA en áreas como la salud y la justicia?
- ¿Es más importante mantener un alto nivel de supervisión humana para garantizar la equidad, aunque esto implique una pérdida de eficiencia?
- ¿Qué prácticas deben adoptarse para evitar que la recopilación de datos de IA refuerce sesgos existentes contra comunidades marginadas?
- ¿Se puede equilibrar esta necesidad con la eficiencia de entrenamiento de los modelos?
- ¿Debería existir una participación ciudadana en las decisiones clave sobre cómo se desarrolla y utiliza la IA?
- ¿Cómo afectaría esto la eficiencia del desarrollo de IA?
- ¿Deben los desarrolladores de IA asumir responsabilidad directa por los sesgos que su tecnología pueda replicar, incluso cuando la eficiencia los favorezca?
- ¿Deberían los desarrollos de IA que aumentan significativamente la eficiencia (en áreas como la salud o el transporte) ser controlados de manera privada, o deberían tratarse como bienes públicos para asegurar un acceso equitativo?
- ¿Qué marcos regulatorios pueden equilibrar la necesidad de innovación rápida en IA (eficiencia) con la protección de las poblaciones vulnerables (igualdad)?
- ¿Es más importante asegurar que los procesos de toma de decisiones de la IA sean transparentes y justos, o priorizar la eficiencia y precisión de esas decisiones?
- ¿Cómo puede aprovecharse la eficiencia de la IA para reducir, en lugar de exacerbar, la brecha digital entre diferentes grupos socioeconómicos o geográficos?
- ¿Deben los beneficios de eficiencia que genera la IA redistribuirse (por ejemplo, a través de un ingreso básico universal) para mitigar la desigualdad en aumento?
- ¿Hasta qué punto?
Contacto:
* Eduardo Navarrete es especialista en Estudios de futuros, periodista, fotógrafo y Head of Content en UX Marketing.
Linkedin: https://www.linkedin.com/in/eduardo-navarrete
Mail: [email protected]
Instagram: @elnavarrete
Sigue la información sobre los negocios y la actualidad en Forbes México
