Por Grecia Reynoso*
Cada vez que aparece una noticia sobre un chatbot que genera daño psicológico, la reacción pública suele ser la misma. Concluimos que la inteligencia artificial no debería participar en la salud mental. Es una reacción comprensible. También es una conclusión equivocada. Porque parte de una premisa que rara vez cuestionamos: que las personas están eligiendo entre inteligencia artificial y atención profesional. Para millones de personas, esa elección simplemente no existe. La verdadera elección es entre inteligencia artificial y nada. Y esa diferencia cambia por completo la discusión.
México tiene aproximadamente un psiquiatra por cada cien mil habitantes. En gran parte de América Latina, la demanda de atención psicológica y psiquiátrica supera ampliamente la capacidad instalada de los sistemas de salud. Las listas de espera duran semanas o meses. Mientras discutimos si la inteligencia artificial debería participar en salud mental, millones de personas ya enfrentan ansiedad, depresión, aislamiento o crisis emocionales sin acceso a ninguna forma de apoyo.
Por eso creo que estamos teniendo la conversación equivocada. La pregunta no es si la inteligencia artificial debe participar en la salud mental. La pregunta es qué estándares debe cumplir para hacerlo de manera segura y responsable. Sin embargo, gran parte del debate público sigue atrapado en un error de categoría. Estamos tratando a toda la inteligencia artificial aplicada a salud mental como si fuera una sola cosa. No lo es.
Un chatbot diseñado para maximizar tiempo de interacción no es lo mismo que una herramienta diseñada para mejorar resultados clínicos. Un sistema que genera respuestas plausibles sobre cualquier tema no es equivalente a una intervención construida sobre modelos terapéuticos validados. Una plataforma sin protocolos de detección de riesgo no puede evaluarse bajo los mismos criterios que una diseñada para identificar señales de crisis y escalar hacia atención humana cuando es necesario.
Pero seguimos discutiéndolas como si pertenecieran a la misma categoría. Y ese error conceptual está empezando a trasladarse también a la regulación.
Después de incidentes ampliamente difundidos, algunos estados en Estados Unidos han restringido que ciertos sistemas se presenten como terapeutas o consejeros. La preocupación es legítima. Los riesgos existen. Casos como el del adolescente en Florida que desarrolló una relación emocional intensa con un chatbot y posteriormente se suicidó evidencian que una tecnología mal diseñada puede generar consecuencias graves.
Sin embargo, la lección que deberíamos extraer de estos casos no es que toda la inteligencia artificial representa el mismo riesgo. La lección es que necesitamos distinguir entre productos que pueden demostrar seguridad y productos que no pueden hacerlo. Estamos intentando regular tecnologías cuando deberíamos estar regulando estándares.
Nadie aprobaría un medicamento únicamente porque utiliza una molécula determinada. Lo que se evalúa son sus resultados, su seguridad y la evidencia que respalda su uso. En salud mental digital deberíamos exigir algo similar.
La pregunta relevante no es si una herramienta utiliza inteligencia artificial. La pregunta es si puede demostrar que ayuda más de lo que daña.
Te recomendamos: ¿Debería exigirse a las IA que denuncien a un usuario humano que esté contemplando la violencia?
Por primera vez comenzamos a tener evidencia para responder esa pregunta.
Un ensayo clínico aleatorizado realizado por investigadores de la Universidad de Texas en Austin evaluó durante seis meses una plataforma de salud mental basada en inteligencia artificial en una muestra de 1,964 mujeres mexicanas con distrés psicológico. Los resultados mostraron reducciones significativas en depresión y ansiedad. Más importante aún, no encontraron evidencia de deterioro en los distintos grupos evaluados.
Pero el hallazgo que considero más relevante fue otro.
Las participantes que utilizaron la plataforma mostraron una mayor probabilidad de buscar atención profesional cuando la necesitaban. La inteligencia artificial no reemplazó al terapeuta. Funcionó como una puerta de entrada hacia el sistema de cuidado. Y quizás ahí está una de las ideas más importantes para la próxima década.
La discusión nunca debió plantearse como IA versus terapeutas. Necesitamos más terapeutas. Más psiquiatras. Más inversión en salud mental. Pero también necesitamos herramientas capaces de acompañar, orientar, detectar señales tempranas de riesgo y ampliar el acceso a intervenciones basadas en evidencia en una escala que los sistemas actuales simplemente no pueden alcanzar por sí solos.
La inteligencia artificial no resolverá la crisis global de salud mental. Pero tampoco podremos resolverla ignorando una tecnología que ya forma parte de la vida cotidiana de miles de millones de personas.La pregunta relevante ya no es si las personas hablarán con inteligencia artificial sobre sus emociones. Eso ya está ocurriendo.
La pregunta es si permitiremos que lo hagan con sistemas diseñados bajo estándares clínicos rigurosos o si seguiremos regulando una categoría entera como si todas sus aplicaciones fueran equivalentes. Porque el verdadero riesgo no es que la inteligencia artificial participe en la salud mental.
El verdadero riesgo es no construir los estándares que nos permitan distinguir entre una conversación cualquiera y una herramienta capaz de generar cuidado.Y esa distinción probablemente tendrá mucho más impacto en el futuro de la salud mental que la propia tecnología.
El estudio referido en esta columna —”The Well-Being Effects of Digital Mental Health Care”— fue publicado por la Universidad de Texas en Austin como IZA Discussion Paper No. 18538.
Sobre la autora:
*Grecia Reynoso, CEO y cofundadora de Mindsurf
Las opiniones expresadas son sólo responsabilidad de sus autores y son completamente independientes de la postura y la línea editorial de Forbes México.
