Author(s): Tom Nadarzynski, Nicky Knights, Deborah Husbands, Cynthia A. Graham, Carrie D. Llewellyn, Tom Buchanan, Ian Montgomery, Damien Ridge
Year: 2024
Bibliographic Reference: Nadarzynski, T., Knights, N., Husbands, D., Graham, C. A., Llewellyn, C. D., Buchanan, T., Montgomery, I., & Ridge, D. (2024). Achieving Health Equity through Conversational AI: A Roadmap for Design and Implementation of Inclusive Chatbots in Healthcare. PLOS Digital Health, 3(5), e0000492. https://doi.org/10.1371/journal.pdig.0000492
Categoría asignada: Asistencia sanitaria pública
Resumen: #
El artículo Achieving Health Equity through Conversational AI propone un enfoque detallado para el diseño y la implementación de chatbots inclusivos en el sector de la salud, con el objetivo de reducir las desigualdades en el acceso y la atención sanitaria. Los autores identifican las oportunidades y desafíos que presenta el uso de inteligencia artificial conversacional (IA) en la atención médica, destacando la necesidad de incorporar principios de equidad, diversidad e inclusión en todo el ciclo de vida de estas tecnologías.
El trabajo se basa en un análisis cualitativo que revisa 17 directrices existentes para el uso de IA en contextos clínicos y entrevistas a 33 stakeholders, incluidos miembros de comunidades étnicamente diversas, diseñadores de IA, expertos de la industria y profesionales de la salud. Este proceso resultó en la creación de una hoja de ruta de 10 etapas para guiar el desarrollo y la implementación equitativa de chatbots conversacionales en el sector sanitario.
La hoja de ruta incluye las siguientes fases:
- Concepción y planificación: La identificación de las disparidades en salud es esencial en esta primera etapa. Los diseñadores deben realizar una evaluación de necesidades para determinar qué brechas de acceso puede cerrar la IA conversacional, como en comunidades rurales o en pacientes que enfrentan barreras culturales o lingüísticas. También se definen los resultados de salud y comportamiento que se espera que estos chatbots logren.
- Diversidad y colaboración: La participación de equipos de diseño diversos y la colaboración con comunidades minoritarias son fundamentales para reducir sesgos en el diseño de IA. Involucrar a líderes comunitarios y grupos de apoyo durante el desarrollo puede ayudar a aumentar la aceptabilidad y el uso de estos chatbots en grupos marginados.
- Investigación preliminar: Se revisan herramientas de IA existentes y los conjuntos de datos utilizados, evaluando la calidad y diversidad de los mismos. Se destacan las barreras tecnológicas que enfrentan las comunidades desatendidas, como el acceso limitado a dispositivos tecnológicos.
- Coproducción: La creación de contenidos para los chatbots debe involucrar a los usuarios objetivo para asegurar que el lenguaje sea comprensible y culturalmente apropiado. Esto incluye pruebas de legibilidad, traducción a múltiples idiomas y la creación de características que imiten respuestas humanas de manera sensible a las diferencias culturales.
- Medidas de seguridad: El artículo enfatiza la necesidad de proteger a los usuarios vulnerables y asegurar la precisión de la información proporcionada por la IA. Además, se sugieren vías de contacto humano en caso de que los chatbots no puedan manejar situaciones críticas, como crisis emocionales.
- Pruebas preliminares: El prototipo de chatbot debe ser probado con muestras diversas de la población. Se recopila retroalimentación para ajustar el diseño y asegurar que los chatbots sean efectivos en la promoción de cambios de comportamiento y resultados de salud.
- Integración en el sistema sanitario: La integración de la IA conversacional debe alinearse con los objetivos generales de los sistemas de salud, considerando aspectos como la interoperabilidad con registros médicos electrónicos y la seguridad de los datos.
- Evaluación y auditoría: El uso de chatbots debe evaluarse de forma continua para medir su impacto en las disparidades en salud. Esto incluye auditorías regulares y el seguimiento del uso y satisfacción de los pacientes, especialmente en comunidades marginadas.
- Mantenimiento: Es esencial actualizar los chatbots para reflejar los avances clínicos y técnicos. También se recomienda monitorear cómo la IA afecta la carga de trabajo del personal médico y la sostenibilidad del sistema de salud.
- Terminación: En caso de que sea necesario descontinuar el uso del chatbot, se deben seguir procedimientos cuidadosos para minimizar la interrupción del servicio a los pacientes, especialmente aquellos que dependen del chatbot como principal recurso de atención.
El estudio concluye que la IA conversacional puede mejorar el acceso a los servicios de salud y reducir las desigualdades, pero su éxito depende de un enfoque deliberado que priorice la equidad, la transparencia y la colaboración con las comunidades a las que está destinada a servir. Los autores subrayan que, si bien los chatbots ofrecen soluciones innovadoras, deben ser diseñados con cuidado para evitar la perpetuación de sesgos existentes en la atención sanitaria.
