ChatGPT funciona como una suerte de navaja suiza que, aparentemente, tiene una respuesta para cualquier duda que se te pase por la cabeza. Igual hace de amigo, amante, profesor, psicólogo o médico. Otra historia bien distinta es que cumpla con el papel de turno tan bien como una persona real. Un reciente estudio publicado en la revista ' Nature Medicine ' apunta que ChatGPT Salud , el modo del chatbot dedicado a dar consejos médicos, subestima más de la mitad de las emergencias médicas que le plantean los usuarios. «En concreto, el sistema subestimó el 52% de las emergencias reales . Entre ellas afecciones como la cetoacidosis diabética o la insuficiencia respiratoria inminente, en las que una demora en el tratamiento puede ser mortal para el paciente», explica a ABC el doctor Ashwin Ramaswamy, autor principal del estudio y médico en el Hospital Mount Sinai de Nueva York. En estos dos casos, según se señala en el estudio, la herramienta de IA sugería al paciente que acudiese a consulta en uno o dos días si los síntomas no desaparecían. Lo que debería haberles dicho es que fueran a urgencias directamente. «Lo más sorprendente es que, en muchos casos, la máquina sí que reconocía las señales de peligro; pero luego se convencía a sí misma de que el problema no era tan grave», prosigue el investigador. A continuación señala un caso en el que ChatGPT Salud reconoció un nivel de CO₂ elevado en sangre «como una señal temprana de problemas respiratorios», y luego concluyó erróneamente que los hallazgos «no demostraban una insuficiencia respiratoria inmediata». «Un usuario no tiene forma de saber cuándo puede confiar en la máquina», zanja el médico. ChatGPT Salud es una de las grandes apuestas que ha realizado OpenAI en los últimos meses. La empresa lo lanzó en Estados Unidos el pasado enero y anunció que serviría para que el usuario pueda consultar sus síntomas y análisis médicos, entre otras tantas cosas. «Las personas que experimentan emergencias reales la usarán, y ya lo hacen. Cuando un sistema funciona como una herramienta de cribado de pacientes, la evaluación de seguridad independiente no es opcional», apunta Ramaswamy sobre las razones que le llevaron a estudiar la herramienta. Para ponerla a prueba, los investigadores diseñaron 60 escenarios clínicos simulados que reproducían situaciones reales por las que un paciente podría acudir a un servicio de urgencias o consultar a un médico. Cada uno de esos casos fue introducido en ChatGPT Salud y las recomendaciones del sistema se compararon después con las que daría un facultativo siguiendo los protocolos habituales de cribado. Y llegaron los fallos, que no solo afectaban a la correcta derivación de los pacientes con síntomas graves. La máquina también sobrestimó el 64,8% de los casos que, en realidad, no eran urgentes o podían resolverse sin atención médica inmediata. Según los autores, este tipo de error puede generar ansiedad innecesaria en los pacientes y contribuir a saturar los servicios sanitarios, que ya de por sí están sobrecargados. «El sistema falla precisamente en los extremos: reconociendo los casos que necesitan atención médica urgente y los que ni siquiera requieren consulta. Son las situaciones en las que la precisión del cribado es fundamental», dice Ramaswamy. Los errores no paran aquí . El estudio también destaca fallos en algunas de las medidas de seguridad diseñadas para que ChatGPT Salud actúe en situaciones de crisis. En concreto, los investigadores analizaron cómo reaccionaba el sistema cuando los pacientes describían pensamientos suicidas. El chatbot cuenta con un mecanismo que debería activar automáticamente un aviso con recursos de ayuda, como líneas telefónicas de prevención del suicidio. Al ponerlas a prueba, comprobaron que estas alertas aparecían con más frecuencia cuando el usuario hablaba vagamente de su intención de autolesionarse que cuando describía el método que pensaba utilizar para ello. «Una función de seguridad impredecible puede ser peor que no tener ninguna», señala el autor principal de la investigación. Ramaswamy advierte además de que el experimento se realizó en condiciones favorables para el sistema. Los casos utilizados contenían información clínica clara y estructurada, algo que rara vez ocurre cuando un paciente describe sus síntomas por internet. Esto implica que ChatGPT Salud partía con cierta ventaja y, aun así, cometió numerosos errores graves. «Si el sistema subestima la mitad de las emergencias en condiciones ideales, es poco probable que su rendimiento mejore con la información imperfecta que proporcionan los usuarios reales», señala el doctor a este respecto. A pesar de que el modo ChatGPT Salud todavía solo está disponible en Estados Unidos, desde su lanzamiento en 2022 el chatbot ha sido empleado por millones de usuarios para la consulta de síntomas y análisis. Y ya ha causado problemas reales debido a los errores que comete. El pasado agosto, ' Annals of Internal Medicine Clinical Cases ' publicaba un estudio en el que se mencionaba el caso de un paciente que sufrió una intoxicación por bromuro después de solicitar consejo a la máquina de IA sobre una dieta. Este último verano, ' Daily Mail ' también informó acerca del caso de un hombre que consultó al robot sobre un dolor de garganta. La herramienta le señaló que los síntomas no parecían graves, por lo que tardó meses en acudir al médico. Cuando llegó a consulta, el doctor le acabó diagnosticó cáncer de garganta y le dio una esperanza de vida de cinco años. Los errores de ChatGPT también pueden tener consecuencias psicológicas. Un artículo académico, publicado el pasado noviembre en ' Science Direct ' narra el caso de un hombre de 65 años con deterioro cognitivo leve que utilizó el chatbot de OpenAI para interpretar sus síntomas. El sistema generó un informe con conclusiones médicas erróneas que sugerían un problema neurológico grave, lo que provocó una fuerte ansiedad en el paciente hasta que fue evaluado por especialistas humanos, que corrigieron el problema. Expertos consultado recientemente por este diario han alertado sobre el peligro de que los pacientes confíen en el diagnóstico de la IA. Julio Mayol , director médico del Hospital Clínico San Carlos y profesor titular de Cirugía en la Universidad Complutense, explicó, a razón del anuncio en enero de ChatGPT Salud, que «es difícil predecir cómo la población va a reaccionar« ante la herramienta: »Ataca a los sanitarios, y no tenemos claro cómo vamos combatir los problemas que cause o de quien será la responsabilidad si la máquina comete algún error». Asimismo, reconoció que, actualmente, ya hay pacientes que llegan a consulta con los diagnósticos que han sacado de ChatGPT: «Todavía son anecdóticos, pero en el futuro creo que va a generar muchas tensiones entre médicos y pacientes».
