A medida que las herramientas de inteligencia artificial como ChatGPT se vuelven cada vez más populares para quienes buscan terapia personal y apoyo emocional, los peligros que esto puede presentar —especialmente para los jóvenes— acapararon numerosos titulares. Sin embargo, no se presta tanta atención al uso que hacen las empresas de la IA generativa para evaluar el bienestar psicológico de sus empleados y brindarles apoyo emocional en el lugar de trabajo.
Desde el cambio global al teletrabajo provocado por la pandemia, sectores que van desde la salud hasta los recursos humanos y la atención al cliente experimentaron un aumento considerable en el uso de sistemas con IA diseñados para analizar el estado emocional de los empleados, identificar a quienes sufren angustia emocional y brindarles apoyo.
Esta nueva frontera representa un gran avance con respecto al uso de herramientas de chat convencionales o aplicaciones de terapia individual para obtener apoyo psicológico. Como investigadores que estudiamos cómo la IA afecta las emociones y las relaciones en el ámbito laboral, nos preocupan las preguntas cruciales que plantea este cambio: ¿Qué sucede cuando el empleador tiene acceso a los datos emocionales de los empleados? ¿Puede la IA realmente proporcionar el tipo de apoyo emocional que necesitan? ¿Qué ocurre si la IA falla? Y si algo sale mal, ¿quién es el responsable?
La diferencia en el ámbito laboral
Muchas empresas comenzaron ofreciendo programas de asesoramiento automatizados con muchas similitudes a las aplicaciones de terapia personal, una práctica que demostró algunos beneficios. En estudios preliminares, los investigadores descubrieron que, en un entorno de conversación virtual similar a la de un médico, las respuestas generadas por IA hacen que las personas se sientan más escuchadas que las respuestas de un terapeuta humano. Un estudio que comparó chatbots de IA con psicoterapeutas humanos halló que los bots eran “al menos tan empáticos como las respuestas de los terapeutas, y a veces incluso más”.
Esto puede parecer sorprendente a primera vista, pero la IA ofrece una atención constante y respuestas de apoyo consistentes. No interrumpe, no juzga y no se frustra cuando se repiten las mismas preocupaciones. Para algunos empleados, especialmente aquellos que lidian con problemas estigmatizados como la salud mental o los conflictos laborales, esta consistencia les brinda mayor seguridad que la interacción humana.
Pero para otros, plantea nuevas preocupaciones. Un estudio de 2023 reveló que los trabajadores se mostraban reacios a participar en programas de salud mental impulsados por la empresa debido a la preocupación por la confidencialidad y el estigma. Muchos temían que sus revelaciones pudieran afectar negativamente sus carreras.
Te interesa: ¿Dónde termina el pensamiento humano y empieza la IA? Un nuevo protocolo busca distinguirlos
Otros sistemas de IA en el lugar de trabajo profundizan mucho más, analizando la comunicación de los empleados en tiempo real: correos electrónicos, conversaciones de Slack y videollamadas. Este análisis crea registros detallados del estado emocional, los patrones de estrés y las vulnerabilidades psicológicas de los empleados. Todos estos datos residen en sistemas corporativos donde la protección de la privacidad suele ser poco clara y a menudo favorece los intereses del empleador.
Workplace Options, proveedor global de asistencia al empleado, se ha asociado con Wellbeing.ai para implementar una plataforma que utiliza análisis facial para rastrear el estado emocional en 62 categorías. Genera puntuaciones de bienestar que las organizaciones pueden usar para detectar problemas de estrés o moral. Este enfoque integra la IA en aspectos emocionalmente sensibles del trabajo, difuminando peligrosamente la línea entre el apoyo y la vigilancia.
En este escenario, la misma IA que ayuda a los empleados a sentirse escuchados y apoyados también genera información sin precedentes sobre la dinámica emocional de la fuerza laboral. Las organizaciones ahora pueden rastrear qué departamentos muestran signos de agotamiento, identificar a los empleados con riesgo de renunciar y monitorear las respuestas emocionales a los cambios organizacionales.
Sin embargo, este tipo de herramienta también transforma los datos emocionales en información estratégica para la gestión, lo que plantea un verdadero dilema para muchas empresas. Mientras que las organizaciones más innovadoras están estableciendo una estricta gobernanza de datos —limitando el acceso a patrones anonimizados en lugar de a conversaciones individuales—, otras se enfrentan a la tentación de utilizar la información emocional para la evaluación del desempeño y la toma de decisiones sobre el personal.
La vigilancia continua que realizan algunos de estos sistemas puede ayudar a garantizar que las empresas no descuiden a un grupo o individuo en situación de vulnerabilidad, pero también puede llevar a las personas a controlar sus propias acciones para evitar llamar la atención.
Las investigaciones sobre la monitorización mediante IA en el lugar de trabajo han demostrado cómo los empleados experimentan un mayor estrés y modifican su comportamiento cuando saben que la dirección puede revisar sus interacciones. Esta monitorización socava la sensación de seguridad necesaria para que las personas busquen ayuda con confianza.
Otro estudio reveló que estos sistemas aumentaban la angustia de los empleados debido a la pérdida de privacidad y al temor a las consecuencias si el sistema los identificaba como personas estresadas o con síndrome de burnout.
Te recomendamos: La inteligencia artificial creará trabajos para pedagogos, lingüistas y psicólogos
Cuando la empatía artificial se enfrenta a consecuencias reales
Estos hallazgos son importantes porque, sin duda, las consecuencias son aún mayores en el ámbito laboral que en el personal. Los sistemas de IA carecen del juicio matizado necesario para distinguir entre aceptar a alguien como persona y avalar conductas dañinas. En contextos organizacionales, esto significa que una IA podría, sin querer, validar prácticas laborales poco éticas o no reconocer cuándo la intervención humana es crucial.
Y esa no es la única forma en que los sistemas de IA pueden equivocarse. Un estudio reveló que las herramientas de IA para el seguimiento de emociones tenían un impacto desproporcionado en empleados de color, personas trans y de género no binario, y personas con enfermedades mentales. Los entrevistados expresaron una profunda preocupación sobre cómo estas herramientas podrían malinterpretar el estado de ánimo, el tono o las señales verbales de un empleado debido a sesgos étnicos, de género y de otro tipo inherentes a los sistemas de IA.
También existe un problema de autenticidad. Las investigaciones muestran que cuando las personas saben que están hablando con un sistema de IA, califican las mismas respuestas empáticas como menos auténticas que cuando las atribuyen a humanos. Sin embargo, algunos empleados prefieren la IA precisamente porque saben que no es humana. La sensación de que estas herramientas protegen su anonimato y la libertad de las consecuencias sociales resulta atractiva para algunos, aunque solo sea una sensación.
La tecnología también plantea interrogantes sobre el papel de los directivos. Si los empleados prefieren sistemáticamente la IA para obtener apoyo emocional, ¿qué revela esto sobre el liderazgo organizacional? Algunas empresas utilizan la información proporcionada por la IA para capacitar a sus directivos en inteligencia emocional, convirtiendo la tecnología en un espejo que refleja las deficiencias de las habilidades humanas.
El camino a seguir
El debate sobre el apoyo emocional mediante IA en el lugar de trabajo no se centra únicamente en la tecnología, sino en el tipo de empresas para las que la gente quiere trabajar. A medida que estos sistemas se generalizan, creemos que es importante abordar cuestiones fundamentales: ¿Deberían los empleadores priorizar la conexión humana auténtica sobre la disponibilidad constante? ¿Cómo se puede equilibrar la privacidad individual con la información organizacional? ¿Pueden las organizaciones aprovechar las capacidades empáticas de la IA y, al mismo tiempo, preservar la confianza necesaria para relaciones laborales significativas?
Las implementaciones más acertadas reconocen que la IA no debe reemplazar la empatía humana, sino crear las condiciones para que esta florezca. Cuando la IA se encarga del trabajo emocional rutinario —los ataques de ansiedad de madrugada, las evaluaciones de estrés previas a las reuniones, el procesamiento de comentarios difíciles— los gerentes disponen de más tiempo para establecer conexiones más profundas y auténticas con sus equipos.
Pero esto requiere una implementación cuidadosa. Las empresas que establecen límites éticos claros, sólidas protecciones de privacidad y políticas explícitas sobre cómo se utilizan los datos emocionales tienen más probabilidades de evitar los problemas de estos sistemas, al igual que aquellas que reconocen cuándo el juicio humano y la presencia auténtica siguen siendo insustituibles.
*Nelson Phillips es profesor Distinguido de Gestión Tecnológica y Fares Ahmad es candidato a Doctor en Gestión Tecnológica, ambos de la Universidad de California, Santa Bárbara.
Este texto fue publicado originalmente en The Conversation
¿Te gustan las fotos y las noticias?, síguenos en nuestro Instagram
