Autor(es): Tom Nadarzynski, Nicky Knights, Deborah Husbands, Cynthia A. Graham, Carrie D. Llewellyn, Tom Buchanan, Ian Montgomery, Damien Ridge
Año: 2024
Referencia bibliográfica:
Nadarzynski, T., Knights, N., Husbands, D., Graham, C. A., Llewellyn, C. D., Buchanan, T., Montgomery, I., & Ridge, D. (2024). Achieving Health Equity Through Conversational AI: A Roadmap for Design and Implementation of Inclusive Chatbots in Healthcare. PLOS Digital Health, 3(5), e0000492. https://doi.org/10.1371/journal.pdig.0000492
Categoría asignada: Ética y regulación
Resumen:
El artículo Achieving Health Equity Through Conversational AI: A Roadmap for Design and Implementation of Inclusive Chatbots in Healthcare aborda cómo los chatbots impulsados por inteligencia artificial conversacional pueden mejorar la equidad en la atención sanitaria al reducir las desigualdades de acceso y tratamiento. Los autores, liderados por Tom Nadarzynski, desarrollan un marco ético y práctico para diseñar e implementar chatbots que sean culturalmente inclusivos y accesibles para comunidades minoritarias y desatendidas.
El estudio comienza analizando cómo la IA conversacional ha sido cada vez más utilizada en la atención sanitaria para tareas como el diagnóstico de síntomas, recordatorios de medicación y apoyo en salud mental. Sin embargo, los autores advierten que si no se diseñan cuidadosamente, estos sistemas pueden perpetuar sesgos y desigualdades, especialmente si no se consideran las necesidades de las poblaciones marginadas.
A partir de un análisis cualitativo de 17 directrices sobre el uso de IA en contextos clínicos y entrevistas con 33 partes interesadas (incluyendo miembros de la comunidad, diseñadores de IA, expertos de la industria y profesionales de la salud), se creó una hoja de ruta de 10 etapas. Este marco abarca todas las fases del ciclo de vida de los chatbots conversacionales, desde la planificación inicial hasta la terminación del sistema, con recomendaciones claras para garantizar que los sistemas sean inclusivos y equitativos.
Entre las etapas más destacadas, los autores subrayan la importancia de la colaboración y diversidad en los equipos de diseño, asegurando que se involucren personas de diferentes comunidades en la conceptualización y desarrollo del chatbot. Esta participación garantiza que se identifiquen y mitiguen los sesgos, y que las necesidades de los grupos minoritarios estén adecuadamente representadas.
El artículo también enfatiza la necesidad de medidas de seguridad rigurosas para proteger a los usuarios vulnerables y garantizar la exactitud de las respuestas proporcionadas por los chatbots. Los sistemas deben incorporar salvaguardias, como vías de contacto humano en caso de emergencia, y cumplir con protocolos de privacidad que protejan los datos sensibles de los pacientes.
La evaluación y auditoría continuas también son esenciales para medir la efectividad de los chatbots en reducir las desigualdades en salud. Los autores sugieren que los sistemas deben ser auditados regularmente para asegurarse de que sean accesibles y efectivos, particularmente en comunidades marginadas. Esto incluye la recopilación de datos sobre la aceptación del chatbot y el impacto en los resultados de salud, además de ajustar continuamente el diseño del sistema en función de los comentarios de los usuarios.
Un aspecto clave del artículo es la discusión sobre cómo los chatbots pueden ayudar a superar las barreras geográficas y culturales que limitan el acceso a la atención médica. Los autores mencionan ejemplos de comunidades rurales donde los chatbots podrían ofrecer una forma de acceso rápido y sin prejuicios a servicios de salud, como la atención mental o la educación sobre la salud sexual, áreas que suelen estar rodeadas de estigmas en ciertas culturas.
A pesar de los beneficios, los autores advierten sobre los riesgos que presenta la terminación de los chatbots. Los sistemas deben contar con planes claros de finalización para minimizar la interrupción del cuidado de los pacientes, y los desarrolladores deben preparar a los usuarios y al personal médico para la descontinuación, asegurando que existan alternativas viables.
El artículo concluye con recomendaciones sobre la necesidad de una regulación clara y coherente para guiar el diseño e implementación de chatbots en salud. Esto incluye la importancia de estándares de equidad y prácticas éticas que aseguren que estos sistemas no solo sean técnicamente competentes, sino también culturalmente sensibles y socialmente justos.
En resumen, este estudio presenta un marco robusto para guiar el desarrollo de chatbots de IA en la atención médica, con el objetivo de reducir las desigualdades y promover una atención más equitativa. La colaboración, el enfoque en la diversidad y la evaluación continua son elementos clave para garantizar que los chatbots conversacionales puedan mejorar el acceso y la equidad en la salud.
