Autor(es): Eunkyung Jo, Daniel A. Epstein, Hyunhoon Jung, Young-Ho Kim
Año: 2024
Referencia bibliográfica:
Jo, E., Epstein, D. A., Jung, H., & Kim, Y. H. (2024). Generative Pre-Trained Transformer-Empowered Healthcare Conversations: Current Trends, Challenges, and Future Directions in Large Language Model-Enabled Medical Chatbots. Proceedings of the 2024 ACM Conference on Human Factors in Computing Systems (CHI ’24), ACM, 1-16. https://doi.org/10.1145/3544548.3581503
Categoría asignada: Asistencia sanitaria pública
Resumen
El artículo Generative Pre-Trained Transformer-Empowered Healthcare Conversations: Current Trends, Challenges, and Future Directions in Large Language Model-Enabled Medical Chatbots, escrito por Eunkyung Jo, Daniel A. Epstein, Hyunhoon Jung y Young-Ho Kim, examina las aplicaciones actuales y las dificultades técnicas de los chatbots médicos habilitados por grandes modelos de lenguaje (LLM) como GPT. Los autores se enfocan en el impacto de estas tecnologías en las intervenciones de salud pública y en la atención personalizada a pacientes.
El documento comienza destacando los avances recientes en los modelos de lenguaje como GPT-3 y HyperCLOVA, que han mejorado las capacidades de los sistemas conversacionales de dominio abierto. Estos modelos permiten que los chatbots médicos interactúen de manera más natural y empática con los usuarios, ofreciendo no solo información médica, sino también apoyo emocional, particularmente útil en poblaciones vulnerables o socialmente aisladas. Un ejemplo notable presentado en el artículo es el caso de CareCall, un chatbot implementado en Corea del Sur para brindar apoyo a personas que viven solas y monitorear su estado de salud. CareCall fue desplegado en 20 municipios y demostró un gran potencial para reducir la soledad y ofrecer control sobre el bienestar de los usuarios.
Uno de los beneficios clave que los autores señalan es la capacidad de estos chatbots para aliviar la carga de trabajo del personal de salud pública al automatizar las consultas de rutina, lo que permite que los profesionales se enfoquen en casos más graves. Sin embargo, a través de entrevistas con usuarios, teleoperadores y desarrolladores de CareCall, el estudio revela algunos desafíos importantes. Por ejemplo, los usuarios percibían que las conversaciones generadas por los modelos LLM carecían de personalización y de un seguimiento coherente de las interacciones previas, lo que disminuía la sensación de apoyo emocional genuino. Esta limitación se debe principalmente a la incapacidad actual de los LLM para implementar una “memoria a largo plazo” que les permita recordar detalles sobre la salud del usuario a lo largo de múltiples interacciones.
Otro desafío destacado es la dificultad que enfrentan los desarrolladores para controlar la dirección y el contenido de las respuestas generadas por los modelos. Los LLM pueden generar comentarios inapropiados o inexactos debido a la naturaleza abierta de sus datos de entrenamiento, lo que pone en riesgo la confiabilidad del sistema en situaciones de salud delicadas. Por ejemplo, hubo incidentes en los que el chatbot sugirió actividades imposibles o respuestas inadecuadas como “¡Felicidades!” tras recibir reportes de enfermedad. Los desarrolladores luchan por mitigar estos errores sin reducir la flexibilidad y la capacidad de generar diálogos variados, lo que subraya un dilema inherente en el diseño de estos sistemas.
El estudio también aborda las expectativas que los usuarios tienen sobre los chatbots médicos, muchos de los cuales esperaban que el sistema fuera capaz de gestionar emergencias o conectarlos con servicios sociales, funciones que CareCall no estaba equipado para manejar. A pesar de sus beneficios en términos de reducción de la soledad, los usuarios a menudo deseaban que el chatbot pudiera intervenir directamente en emergencias médicas, lo que los desarrolladores consideran un desafío técnico y ético que aún no ha sido resuelto.
El artículo sugiere que, para mejorar la efectividad de los chatbots habilitados por LLM en la salud pública, se necesita avanzar en varias áreas. Primero, es crucial desarrollar mecanismos que permitan a los chatbots personalizar sus respuestas con base en interacciones previas, lo que requeriría mejorar la capacidad de los modelos para manejar la memoria a largo plazo. Segundo, es importante educar a los diferentes actores involucrados—usuarios, desarrolladores y autoridades de salud pública—sobre las limitaciones y las capacidades de estos sistemas para gestionar expectativas y evitar la frustración de los usuarios. Finalmente, los autores sugieren que la colaboración entre los desarrolladores de IA, los profesionales de salud y los formuladores de políticas será esencial para establecer un marco regulatorio que garantice la seguridad, la privacidad de los datos y la eficacia en la implementación de estos sistemas a mayor escala.
En conclusión, aunque los chatbots médicos habilitados por LLM ofrecen grandes promesas para mejorar el acceso a la atención sanitaria y reducir la carga de trabajo en salud pública, aún enfrentan importantes obstáculos técnicos y éticos que deben superarse. Este artículo ofrece una visión crítica sobre las oportunidades y los retos futuros en el uso de IA generativa para conversaciones médicas en el ámbito de la salud pública.
