Autor(es): Marium M. Raza, Kaushik P. Venkatesh, Joseph C. Kvedar
Año: 2024
Referencia bibliográfica:
Raza, M. M., Venkatesh, K. P., & Kvedar, J. C. (2024).
Categoría asignada: Asistencia sanitaria pública
Resumen
El artículo Generative AI and Large Language Models in Health Care: Pathways to Implementation, de Marium M. Raza, Kaushik P. Venkatesh y Joseph C. Kvedar, explora el uso de la inteligencia artificial generativa (IA) y los modelos de lenguaje a gran escala (LLM) en el ámbito sanitario. Con la creciente popularidad de herramientas como ChatGPT y sus aplicaciones en diversos sectores, el artículo se centra en cómo estas tecnologías pueden integrarse en el cuidado de la salud, particularmente en el manejo de datos clínicos y registros médicos electrónicos (EMR).
Los autores destacan que la IA generativa, diseñada para crear contenido nuevo a partir de datos previamente entrenados, tiene aplicaciones prometedoras en la atención sanitaria, como la automatización de tareas clínicas, la redacción de respuestas a pacientes y la interpretación de datos médicos complejos. Un ejemplo reciente es la colaboración entre Microsoft y Epic, que integró IA generativa en los sistemas de EMR para facilitar la toma de notas médicas automáticas y proponer acciones clínicas, como la prescripción de medicamentos y la programación de citas.
El artículo analiza un estudio de revisión realizado por Wornow et al., en el que se evaluaron 84 modelos de IA aplicados a registros médicos electrónicos. Esta revisión expone que los modelos basados en EMR pueden mejorar el rendimiento predictivo y simplificar el desarrollo de modelos clínicos, pero también plantea desafíos significativos relacionados con la privacidad de los datos y la falta de generalización de los modelos, ya que muchos se entrenan en bases de datos pequeñas o específicas de un solo sistema de salud.
Para enfrentar estos desafíos, los autores proponen un marco de evaluación para modelos de IA generativa aplicado a EMR, el cual se basa en seis criterios: desempeño predictivo, etiquetado de datos, despliegue del modelo, aplicaciones clínicas emergentes, multimodalidad e interfaces novedosas entre humanos e IA. Este marco ofrece una guía útil para que los sistemas de salud evalúen qué modelos son más adecuados para sus necesidades clínicas específicas. Se destaca la importancia de validar el desempeño predictivo de estos modelos, así como de medir su capacidad para evitar errores o “alucinaciones”, en los que la IA genera información incorrecta o inventada cuando carece de datos suficientes.
El artículo también plantea la necesidad de un liderazgo claro y regulaciones adecuadas para garantizar la implementación segura y efectiva de la IA generativa en la atención médica. Actualmente, la IA en salud ha sido desarrollada principalmente por startups y grupos de investigación, por lo que se requiere una guía unificada que aborde los desafíos éticos, de privacidad y de responsabilidad. Los autores sugieren que organismos como la FDA podrían desempeñar un papel crucial en la regulación de estas tecnologías, especialmente en lo que respecta a la privacidad de los datos y la prevención de sesgos en los modelos predictivos.
Otro aspecto crucial es la necesidad de incentivos financieros para fomentar la adopción de estas tecnologías por parte de los proveedores de atención médica. La creación y evaluación de herramientas de IA generativa es costosa, por lo que tanto la inversión pública como privada serán necesarias para impulsar el campo. Los autores sugieren que los costos asociados con la implementación de estas herramientas podrían seguir caminos similares a los sistemas de EMR existentes.
Aunque la IA generativa en la salud está en sus primeras etapas, los autores argumentan que es fundamental aprovechar el entusiasmo actual para superar las debilidades identificadas por Wornow et al., como la falta de generalización de los modelos y las preocupaciones sobre la privacidad de los datos. Con un enfoque adecuado en liderazgo, incentivos y regulación, la IA generativa puede establecer un camino viable hacia su implementación en el ámbito sanitario.
El artículo concluye que, aunque la IA generativa tiene el potencial de revolucionar el cuidado de la salud, es esencial seguir investigando sus aplicaciones y realizar evaluaciones continuas para asegurar que estas tecnologías realmente aporten valor a los sistemas de salud. La evaluación regular de estas herramientas permitirá identificar áreas de mejora y garantizar que las innovaciones tecnológicas se alineen con las necesidades clínicas y éticas del cuidado de la salud.
