Autor(es): Marium M. Raza, Kaushik P. Venkatesh, Joseph C. Kvedar
Año: 2024
Referencia bibliográfica:
Raza, M. M., Venkatesh, K. P., & Kvedar, J. C. (2024). Generative AI and Large Language Models in Health Care: Pathways to Implementation. npj Digital Medicine, 7(62), 1-4. https://doi.org/10.1038/s41746-023-00988-4
Categoría asignada: Asistencia sanitaria pública
Resumen:
El artículo Generative AI and Large Language Models in Health Care: Pathways to Implementation examina las oportunidades y desafíos que presenta la implementación de la IA generativa y los modelos de lenguaje grande (LLM) en el sector sanitario, enfocándose en los modelos aplicados a los registros médicos electrónicos (EMRs). Estos modelos han generado un gran interés por su capacidad para mejorar la eficiencia clínica, simplificar la toma de decisiones y generar contenido automatizado, como notas clínicas y resúmenes médicos.
Los autores comienzan con una introducción sobre la evolución de la IA generativa, destacando el lanzamiento de ChatGPT en 2022, que impulsó un auge en el uso de herramientas basadas en modelos de lenguaje grande. Estos modelos son capaces de procesar grandes cantidades de datos para simular conversaciones humanas, generando contenido original a partir de parámetros entrenados. En el ámbito sanitario, los LLM se han utilizado para interpretar datos clínicos de EMRs, lo que promete mejorar el rendimiento predictivo y facilitar el desarrollo y despliegue de modelos clínicos.
Sin embargo, los autores subrayan que a pesar del entusiasmo, existen barreras importantes que obstaculizan la adopción generalizada de estos modelos en la atención sanitaria. Uno de los principales problemas es la alucinación de la IA, es decir, cuando los modelos generan respuestas inexactas o inventadas cuando la información no está disponible o es insuficiente. Esta limitación afecta la fiabilidad de las recomendaciones médicas generadas por estos sistemas y pone en duda su uso en entornos clínicos donde la precisión es esencial.
Un aspecto central del artículo es la evaluación de modelos de IA generativa aplicados a EMRs. Se cita un estudio de Wornow et al., que analizó 84 modelos de IA entrenados en datos estructurados de registros médicos electrónicos. Esta revisión reveló que, aunque estos modelos mejoran la precisión predictiva, tienen problemas de generalización debido al uso de conjuntos de datos limitados, lo que restringe su aplicabilidad en diversos contextos clínicos. Además, la privacidad de los datos sigue siendo un desafío, ya que la mayoría de los modelos se entrenan en bases de datos privadas o públicas pequeñas, lo que impide su difusión más amplia en el sistema sanitario.
Para abordar estos problemas, los autores proponen un marco de evaluación para modelos de IA generativa en el ámbito clínico, basado en seis criterios clave: rendimiento predictivo, etiquetado de datos, despliegue del modelo, aplicaciones clínicas emergentes, multimodalidad, y nuevas interfaces humano-IA. Estos criterios buscan proporcionar una evaluación más rigurosa y estandarizada de los modelos, asegurando que sean aplicables a diversas necesidades clínicas.
Además, se discuten ejemplos recientes de aplicaciones de IA generativa en sistemas de EHR, como la colaboración entre Microsoft y Epic, y la herramienta Oracle Clinical Digital Assistant. Estas innovaciones permiten a los profesionales de la salud interactuar con los registros médicos mediante comandos de voz, automatizar la toma de notas y gestionar tareas administrativas, lo que promete reducir la carga de trabajo de los médicos y mejorar la experiencia del paciente.
Los autores concluyen que para que la IA generativa sea más que una moda en el sector salud, es necesario un camino claro hacia la implementación. Esto implica liderazgo, incentivos económicos y una regulación continua que aborde los temas de privacidad, responsabilidad y sesgo en los modelos predictivos. Proponen la creación de una organización liderada por médicos, desarrolladores, administradores de salud e inversores que establezca pautas para el desarrollo, validación y despliegue de estos modelos en entornos clínicos diversos.
En resumen, el artículo destaca el enorme potencial de la IA generativa en la atención médica, pero advierte que su adopción efectiva depende de una combinación de innovación tecnológica, regulación apropiada y una infraestructura de apoyo que permita superar las limitaciones actuales.
