Author(s): Kathrin Cresswell, Nicolette de Keizer, Farah Magrabi, Robin Williams, Michael Rigby, Mirela Prgomet, Polina Kukhareva, Zoie Shui-Yee Wong, Philip Scott, Catherine K. Craven, Andrew Georgiou, Stephanie Medlock, Jytte Brender McNair, Elske Ammenwerth.
Year: 2024
Bibliographic Reference (APA format):
Cresswell, K., de Keizer, N., Magrabi, F., Williams, R., Rigby, M., Prgomet, M., Kukhareva, P., Wong, Z. S-Y., Scott, P., Craven, C. K., Georgiou, A., Medlock, S., McNair, J. B., & Ammenwerth, E. (2024). Evaluating Artificial Intelligence in Clinical Settings—Let Us Not Reinvent the Wheel. Journal of Medical Internet Research, 26, e46407. https://doi.org/10.2196/46407
Assigned Category: Ética y regulación (Ethics and regulation)
Resumen:
El artículo analiza la necesidad urgente de incorporar marcos de evaluación basados en teorías preexistentes para la implementación de la inteligencia artificial (IA) en entornos clínicos, en lugar de “reinventar la rueda”. Los autores sostienen que los marcos de evaluación de tecnologías de información en salud (HIT) pueden proporcionar guías útiles para los desarrolladores, implementadores y tomadores de decisiones estratégicas en la creación de sistemas de IA seguros y efectivos. Estos marcos permiten no solo validar las tecnologías, sino también garantizar su integración y sostenibilidad a largo plazo.
El artículo subraya la necesidad de abordar los desafíos que enfrenta la IA en la atención médica, como la falta de pruebas empíricas sólidas sobre su efectividad y el optimismo exagerado respecto a sus capacidades. Muchos sistemas de IA, especialmente en campos como la radiología y el procesamiento de lenguaje, han tenido dificultades para adaptarse a contextos clínicos reales, lo que genera un impacto negativo en la seguridad y la calidad del cuidado de los pacientes.
Los autores abogan por un enfoque de evaluación que tenga en cuenta tres dimensiones clave: el diseño tecnológico, la interacción con los usuarios y la integración organizacional. Estas dimensiones permiten identificar no solo los beneficios potenciales, sino también los riesgos de la adopción de IA en la práctica clínica, como el aumento de la carga de trabajo para los médicos o la falta de ajuste con las infraestructuras tecnológicas existentes. Los marcos teóricos propuestos ayudarían a abordar estas cuestiones y facilitarían la implementación efectiva de tecnologías basadas en IA.
El artículo concluye que la aplicación de marcos de evaluación bien fundamentados podría acelerar la adopción segura y eficaz de la IA en la atención médica, proporcionando evidencia transferible y escalable a través de diversos entornos clínicos. Al aprovechar el conocimiento existente en lugar de comenzar desde cero, se puede evitar que los sistemas de IA introduzcan riesgos innecesarios o generen resultados subóptimos.
