Grok, el chatbot de inteligencia artificial del multimillonario Elon Musk, refutó esta semana su reiterado consejo a los usuarios de subir información médica personal para solicitar una segunda opinión, advirtiendo a los usuarios contra esta práctica y afirmando que no está cualificado para ofrecer asesoramiento médico.
Datos clave
Durante el último año, Musk animó repetidamente a las personas a usar Grok, desarrollado por su empresa xAI, para solicitar una segunda opinión o buscar consejo médico, y compartió varios testimonios de usuarios que afirman que el bot les ayudó a resolver un problema médico.
Sin embargo, esta semana, cuando Musk animó a las personas a “simplemente tomar una foto de sus datos médicos o subir el archivo para obtener una segunda opinión de Grok”, el chatbot contraatacó.
Cuando otro usuario le preguntó en las respuestas a la publicación original de Musk si Grok estaba sujeto a las leyes de privacidad médica HIPPA, Grok respondió que no y desaconsejó su uso para obtener asesoramiento médico.
“Si bien Grok puede analizar los datos subidos para obtener información, no es un profesional médico ni cumple con la HIPAA. La publicación de Elon destaca esta capacidad, pero recomendamos encarecidamente no compartir información confidencial ni consultar con médicos para obtener opiniones”, declaró Grok, añadiendo posteriormente que “no sustituye el consejo médico profesional”.
Varias personas señalaron que el comentario de Grok contradecía lo que Musk estuvo promoviendo ampliamente, pero el multimillonario no respondió a la respuesta de la IA.
Crítica principal
Quienes estudiaron modelos de lenguaje extensos y chatbots como ChatGPT, Llama y otros descubrieron que no son muy eficaces para diagnosticar a los usuarios con precisión ni consistencia.
Un estudio reveló que los bots proporcionaban regularmente información contradictoria y, en algunos casos, respuestas muy diferentes a distintos usuarios cuando se les presentaba la misma información. En general, los investigadores descubrieron que la IA no era capaz de diagnosticar a un paciente con mayor precisión que quienes simplemente buscaban el problema en Google.
Un artículo publicado en ScienceNews esta semana informó que, si bien los chatbots pueden realizar diagnósticos en un laboratorio con altos índices de precisión (el 95% de las veces), esa cifra se reduce drásticamente a menos del 35% cuando los humanos presentan sus propios escenarios médicos de forma conversacional.
Contra
Varias personas reportaron casos en los que la IA les ayudó en situaciones médicas. Musk compartió repetidamente la historia de un hombre en Noruega, conocido por el nombre de usuario de Reddit u/Tykjen, quien afirmó que Grok le salvó la vida al identificar una apendicitis perforada que los médicos de urgencias inicialmente habían diagnosticado erróneamente.
Natallia Tarrien, de Carolina del Sur, tenía ocho meses de embarazo cuando, según ella, le preguntó a ChatGPT “¿Por qué siento la mandíbula apretada?” y le indicaron que se controlara la presión arterial, que estaba peligrosamente alta.
El chatbot le indicó que llamara a una ambulancia; le diagnosticaron preeclampsia potencialmente mortal y le indujeron el parto ese mismo día. Otra mujer, Lauren Bannon, atribuye a ChatGPT la detección de su cáncer de tiroides después de que los médicos le informaran inicialmente que tenía artritis.
Te interesa: Musk arremete contra sus rivales de IA ‘wokes y santurrones’ y asegura que ‘Grok Musk gana’
Gran cifra
Uno de cada seis. Esa es la cantidad de adultos que usan un chatbot de IA para buscar información al menos una vez al mes, según una encuesta de KFF.
Valoración Forbes
Musk es la persona más rica del mundo, con un patrimonio neto estimado de 847,000 de dólares este miércoles. Es cofundador de siete empresas, entre ellas Tesla, SpaceX y la startup de inteligencia artificial xAI.
Este artículo fue publicado originalmente en Forbes US
¿Te gusta informarte por Google News? Sigue nuestro Showcase para tener las mejores historias
