La IA está revolucionando industrias desde el software y el derecho hasta el entretenimiento y la educación. Y como están aprendiendo médicos como el Dr. Cem Aksoy, esto plantea retos especiales en la medicina, ya que los pacientes recurren a la IA para pedir consejo.
Aksoy, residente médico en un hospital de Ankara, Turquía, dice que un paciente de 18 años y su familia entraron recientemente en pánico tras el diagnóstico de un tumor canceroso en la pierna izquierda al joven. Recurrieron a ChatGPT de OpenAI. El bot dijo que podría sobrevivir solo cinco años.
Fue un error: un cirujano plástico logró extirpar el tumor en julio. “Básicamente fue curado tras la operación”, dijo Aksoy.
Pero unas semanas después, el paciente llamó a Aksoy al borde de las lágrimas. “Dijo: ‘He empezado a toser hace poco, y ChatGPT me dijo que podría ser una metástasis en los pulmones'”, refiriéndose al cáncer que se había extendido, recordó el médico. El paciente dijo que necesitaba redactar un testamento. Resultó que sus pulmones estaban bien. Estaba tosiendo porque había empezado a fumar recientemente.
“Cuando alguien está angustiado y sin guía”, dijo Aksoy, un chatbot de IA “simplemente lo arrastra a este bosque de conocimiento sin contexto coherente.”
Un portavoz de OpenAI dijo que sus modelos más recientes han mejorado significativamente la forma en que gestionan cuestiones de salud. ChatGPT no está pensado como un sustituto de la orientación de un profesional médico, según la empresa.
El encuentro de este joven paciente turco con la sabiduría médica dispensada por IA se produce en un momento en que muchos pacientes en todo el mundo recurren a esta tecnología en busca de consejo. Además de los grandes chatbots que me piden cualquier cosa, los consumidores están recurriendo a una serie de nuevas aplicaciones médicas de consumo impulsadas por IA.
Un número creciente de aplicaciones móviles disponibles en las tiendas de Apple y Google afirman utilizar IA para ayudar a los pacientes con sus quejas médicas, aunque no deberían ofrecer diagnósticos.
Según las directrices de la Administración de Alimentos y Medicamentos de EU, las aplicaciones médicas basadas en IA no requieren aprobación si “están destinadas en general a la educación del paciente y no están destinadas a su uso en el diagnóstico de enfermedades u otras condiciones.” Muchas aplicaciones tienen avisos de responsabilidad que indican que no son una herramienta diagnóstica y que no deberían usarse como sustituto de un médico. Algunos desarrolladores parecen estar estirando los límites.
Una app llamada “Eureka Health: AI Doctor” se promocionaba como “Tu compañero personal de salud todo en uno.” En la App Store de Apple se indicaba que era “SOLO PARA FINES INFORMATIVOS” y que “no diagnostica ni trata enfermedades.”
Pero su desarrollador, Sam Dot Co, también promocionó la aplicación en una página web, donde decía en letras largas: “Conviértete en tu propio médico.”
“Preguntar, diagnosticar, tratar”, decía el sitio. “Nuestra IA no solo diagnostica, te conecta con recetas, órdenes de laboratorio y atención real.”
Apple dijo que, tras enterarse de Eureka Health por Reuters, lo eliminó de su tienda de aplicaciones. Las directrices de Apple para desarrolladores establecen que las aplicaciones médicas “deben divulgar claramente los datos y la metodología para respaldar afirmaciones de precisión.”
El desarrollador de aplicaciones Sam Dot no respondió a una solicitud de comentario. Pero la web cambió después de que Reuters preguntara al respecto. El sitio ya no menciona la aplicación.
En algunos casos, las aplicaciones han dado consejos inexactos y potencialmente peligrosos.
“AI Dermatologist: Skin Scanner” afirma en su página web que cuenta con más de 940,000 usuarios y “tiene la misma precisión que un dermatólogo profesional.” Los usuarios pueden subir fotos de lunares y otras afecciones de la piel, y la IA proporciona una evaluación de riesgo “instantánea”. “El dermatólogo con IA puede salvarte la vida”, afirma el sitio.
Te puede interesar: OpenAI presenta un servicio de agente de IA como parte de un esfuerzo para atraer empresas
Su desarrollador, Acina, con sede en Lituania, afirma que la aplicación utiliza “una red neuronal propietaria” que busca patrones para hacer predicciones. Acina dice que fue entrenado con imágenes dermatológicas para reconocer condiciones específicas de la piel.
La aplicación afirma “más del 97% de precisión.” Pero ha recibido cientos de reseñas de una estrella en las tiendas de aplicaciones, y muchos usuarios se quejan de que es inexacto.
Daniel Thiberge, analista de soporte técnico en Nueva Jersey, dijo a Reuters que compró la aplicación para interpretar siete fotos que tomó de un pequeño bulto en su brazo. Seis resultados mostraron que existía un riesgo de “75%-95%” de que fuera canceroso, añadió. Luego fue a un dermatólogo. El médico le dijo que el crecimiento no parecía problemático en absoluto y que no valía la pena hacer una biopsia.
“Si está completamente, totalmente fuera de lugar, ¿cuál es el propósito de la app?” preguntó Thiberge. En el mejor de los casos, es inútil, dijo. “En el peor de los casos, es peligroso, porque puede que no vayas a ver a un dermatólogo.”
En otra reseña en la Apple App Store, una usuaria escribió que para probar la app subió fotos que mostraban que tenía melanoma, una forma grave de cáncer de piel, que había sido diagnosticada y extirpada quirúrgicamente. Pero la aplicación informó que la condición era “benigna”, escribió el usuario. Dijo a Reuters que teme que “algunas personas confíen en ello y retrasen las visitas al médico.”
Reuters no confirmó de forma independiente la experiencia de los usuarios de la aplicación. Acina dijo que no podía verificarlos. Informó a Reuters que el “propósito de AI Dermatologist no es proporcionar un diagnóstico médico, sino ofrecer un análisis preliminar utilizando tecnología de IA para animar a los usuarios a consultar a un profesional.”
“Nuestros modelos de IA se basan en literatura dermatológica y conjuntos de datos cuidadosamente seleccionados y validados por dermatólogos certificados”, afirmó, añadiendo que “los falsos positivos pueden ocurrir con cualquier sistema de IA.”
La compañía afirmó que su IA ha recibido muchas reseñas positivas en línea, incluyendo “donde los usuarios nos agradecen porque la app les ha pedido que revisen un lunar o lesión a tiempo, lo que en algunos casos ha llevado a atención médica oportuna.”
Apple dijo que retiró la aplicación de su App Store tras enterarse de ella por Reuters, en parte debido a las numerosas quejas de los clientes.
Google también retiró AI Dermatologist de su tienda Google Play después de que Reuters llamara la atención sobre la aplicación. “Google Play prohíbe que las aplicaciones ofrezcan funcionalidades para la salud engañosas o dañinas y requiere pruebas regulatorias o un aviso legal para las aplicaciones que ofrecen funcionalidad médica”, dijo el portavoz.
Pero la app ha vuelto al mercado. Google lo restableció recientemente después de que Acina lo revisara. Google dijo que las aplicaciones suspendidas pueden volver si se actualizan con una “versión compatible”.
Acina afirmó que “aclaró de forma más explícita que la aplicación no es un dispositivo médico”, que no proporciona diagnósticos y que los usuarios deberían consultar a profesionales sanitarios.
Apple también lo restableció brevemente, pero luego lo volvió a eliminar la semana pasada. Según Acina, Apple le dijo que “tras una reevaluación”, determinó esto: “La aplicación proporciona datos médicos, mediciones relacionadas con la salud, diagnósticos o consejos de tratamiento sin la autorización regulatoria adecuada.” Acina dijo que está apelando la retirada.
La Dra. Rachel Draelos, médica, informática y consultora en atención sanitaria con IA, afirma que las aplicaciones médicas impulsadas por IA son preocupantes, especialmente en dermatología. “Me preocupa mucho porque identificar correctamente las cosas de la piel es realmente difícil”, dijo a Reuters. Hay miles de problemas de la piel, y “no hay manera de que todas estas apps tengan realmente un conjunto de datos que cubra todas estas cosas.”
Con información de Reuters
Suscríbete a nuestro canal de YouTube y no te pierdas de nuestro contenido
