Author(s): Vimla Lodhia Patel
Year: 2023
Bibliographic Reference (APA format):
Patel, V. L. (2023). Cognitive Science in the Evaluation of Medical AI Systems. BMJ Health Care Informatics, 30, e100929. https://doi.org/10.1136/bmjhci-2023-100929
Assigned Category: Ética y regulación (Ethics and regulation)
Resumen:
Este artículo explora cómo la ciencia cognitiva puede contribuir a la evaluación de los sistemas de inteligencia artificial (IA) en la atención médica, centrándose en la interacción entre los médicos y la IA. La autora sostiene que la evaluación de la IA en la medicina no debe centrarse únicamente en los aspectos técnicos, sino también en cómo los sistemas interactúan con los procesos cognitivos de los médicos y apoyan su toma de decisiones. La ciencia cognitiva, con su enfoque en la comprensión del razonamiento humano, ofrece una perspectiva clave para analizar cómo los médicos pueden beneficiarse de la IA sin perder el control de las decisiones clínicas.
El artículo resalta que los sistemas de IA, como los de soporte de decisiones clínicas, pueden complementar el razonamiento inductivo, deductivo y abductivo que utilizan los médicos en su práctica diaria. Sin embargo, la IA también introduce nuevos desafíos, como el riesgo de sobredependencia en la tecnología y la posibilidad de errores debido a la automatización. Por lo tanto, la autora propone que las evaluaciones de los sistemas de IA deben incluir métodos que exploren cómo los médicos interactúan con la tecnología en situaciones reales, como los protocolos de “pensar en voz alta”, que permiten captar el proceso de pensamiento mientras los médicos utilizan la IA.
Además, se propone un enfoque sociotécnico para evaluar la IA, que no solo se centre en la tecnología, sino que también considere el contexto social, organizativo y cultural en el que opera. Este enfoque asegura que los sistemas de IA sean diseñados y evaluados para complementar las habilidades humanas, mejorando la seguridad y efectividad clínica.
