La IA da consulta antes que el doctor y gana terreno ante el alto costo de la atención médica
La IA puede confundir al paciente
El problema de usar inteligencia artificial para resolver una duda de salud no termina cuando el chatbot entrega una respuesta incorrecta. El riesgo está también en que esa respuesta puede parecer suficientemente convincente como para que una persona la tome como cierta y actúe a partir de ella.
La Organización Mundial de la Salud (OMS) ha advertido que los modelos de inteligencia artificial pueden producir información que parece autorizada y razonable, pero que contiene errores, incluso graves. En salud, una respuesta equivocada puede influir en la decisión de una persona sobre cuándo buscar atención, qué síntomas considerar importantes o cómo interpretar información sobre una enfermedad.
Para Alcántara, este es uno de los límites que debe mantenerse claro conforme la IA gana espacio en la atención médica. “La IA debe potenciar la práctica médica, no sustituir el criterio clínico del especialista”, señala.
Aunque la compañía ya utiliza inteligencia artificial en distintos procesos, Alcántara explica que no emplean IA para realizar triage de manera autónoma (es decir, evaluar los síntomas de una persona para determinar la urgencia de su situación y el tipo de atención que necesita) ni para emitir diagnósticos a partir de los síntomas de un paciente.
En esos casos, la evaluación clínica y las decisiones sobre diagnóstico y tratamiento permanecen bajo responsabilidad del profesional de la salud. Y si una herramienta de IA no se utiliza para tomar estas decisiones de manera autónoma dentro de una plataforma médica, menos debería un paciente asumir por su cuenta que una respuesta generada por un chatbot puede sustituir esa valoración.
La propia OMS plantea que los riesgos no se limitan a las respuestas equivocadas. Los sistemas pueden reproducir sesgos presentes en los datos con los que fueron entrenados, comprometer la privacidad de información sensible (incluidos datos de salud) o utilizarse para generar y difundir desinformación médica que resulte difícil de distinguir de contenido confiable.
Este exceso de información también puede aumentar la ansiedad del paciente. Desde Doctoralia identifican la cibercondría, un fenómeno asociado con las búsquedas repetitivas de síntomas y enfermedades en internet, que puede llevar a una persona a interpretar cada nuevo resultado como una señal de que padece una enfermedad.
Así, la IA puede terminar amplificando una preocupación cuando el usuario no tiene elementos para interpretar la información clínica. El reto, dice Alcántara, consiste en establecer bajo qué condiciones puede utilizarse esa información sin desplazar el criterio profesional.
“La conversación sobre inteligencia artificial en salud ya no gira en torno a si se utilizará o no, sino a cómo implementarla de manera responsable, ética y segura”, afirma.
