Autor(es): Peng Zhang y Maged N. Kamel Boulos
Año: 2023
Referencia bibliográfica:
Zhang, P., & Kamel Boulos, M. N. (2023). Generative AI in Medicine and Healthcare: Promises, Opportunities and Challenges. Future Internet, 15(9), 286. https://doi.org/10.3390/fi15090286
Categoría asignada: Ética y regulación
Resumen:
El artículo Generative AI in Medicine and Healthcare: Promises, Opportunities and Challenges explora el creciente impacto de la inteligencia artificial generativa (IA), específicamente los modelos de lenguaje grande (LLM) como ChatGPT, en la medicina y el cuidado de la salud. Los autores, Zhang y Boulos, ofrecen una revisión narrativa sobre cómo estas tecnologías están revolucionando el campo médico, destacando las aplicaciones, beneficios y retos asociados con su integración en sistemas sanitarios.
Entre las aplicaciones más destacadas, la IA generativa ha demostrado un gran potencial en la toma de decisiones clínicas y el apoyo diagnóstico. Los modelos de IA pueden analizar grandes volúmenes de datos médicos para ayudar en la detección temprana de enfermedades, la creación de planes de tratamiento personalizados y la mejora de la precisión en los diagnósticos. Por ejemplo, los GPT se utilizan en el análisis de imágenes médicas para identificar con mayor rapidez y precisión afecciones como el cáncer, reduciendo el tiempo de interpretación por parte de los médicos y mejorando los resultados clínicos.
Otra área clave es la mejora de la comunicación con los pacientes. Los modelos generativos permiten a los pacientes interactuar con sistemas conversacionales que responden a preguntas de salud, proporcionan educación y explicaciones detalladas sobre tratamientos y procedimientos, y fomentan un mayor compromiso en el manejo de su salud. Además, estas tecnologías pueden aliviar la carga administrativa en los profesionales de la salud al automatizar tareas como la documentación clínica y la gestión de registros médicos electrónicos (EHR).
Sin embargo, los autores señalan importantes desafíos éticos y regulatorios que deben abordarse antes de una adopción más generalizada de estas tecnologías. En particular, surgen preocupaciones en torno a la confianza, veracidad y seguridad clínica de los modelos generativos. Aunque la IA puede ofrecer recomendaciones valiosas, la falta de transparencia en sus procesos de toma de decisiones, conocida como el problema de la “caja negra”, genera desconfianza. Los médicos y los pacientes deben poder comprender cómo la IA llega a sus conclusiones, lo que subraya la importancia de la explicabilidad en los sistemas de IA utilizados en la atención médica.
Además, la privacidad de los datos es un tema crítico. La recopilación y el procesamiento de grandes cantidades de datos sensibles requieren medidas estrictas para garantizar la confidencialidad del paciente. Los autores mencionan ejemplos como la prohibición temporal de ChatGPT en Italia debido a preocupaciones de privacidad, lo que demuestra la necesidad de regulaciones claras y transparentes en torno al uso de IA en la medicina. La seguridad de los datos y la capacidad de los pacientes para controlar cómo se utilizan sus datos deben ser garantizadas para mantener la confianza pública en estas tecnologías.
Otro desafío que los autores abordan es la certificación y regulación de la IA en medicina. Debido a la rápida evolución de los modelos de IA, es difícil que los organismos reguladores mantengan el ritmo de los avances tecnológicos. Además, los modelos generativos continúan aprendiendo de nuevos datos incluso después de haber sido aprobados, lo que plantea la necesidad de marcos regulatorios que incluyan una reevaluación continua de estas herramientas a medida que se actualizan y evolucionan.
En cuanto a las oportunidades, el artículo destaca que la IA generativa puede transformar el diseño de interfaces de usuario (UI) en el ámbito de la salud. Los sistemas basados en lenguaje natural permiten una interacción más intuitiva y flexible entre los pacientes y los sistemas de salud, adaptándose mejor a las necesidades del usuario.
En conclusión, Zhang y Boulos afirman que, si bien la IA generativa tiene el potencial de revolucionar la medicina, su implementación debe ir acompañada de regulaciones sólidas y un enfoque ético que garantice la seguridad, la privacidad y la confianza. Los marcos regulatorios deben evolucionar para abordar estos nuevos desafíos y aprovechar al máximo los beneficios de la IA en la atención médica.
