Author(s): Jack Ross, Sara Hammouche, Yanan Chen, Anna G. Rockall
Year: 2024
Bibliographic Reference (APA format):
Ross, J., Hammouche, S., Chen, Y., & Rockall, A. G. (2024). Beyond regulatory compliance: evaluating radiology artificial intelligence applications in deployment. Clinical Radiology. https://doi.org/10.1016/j.crad.2024.01.026
Assigned Category: Ética y regulación (Ethics and regulation)
Resumen:
Este artículo revisa la implementación de aplicaciones de inteligencia artificial (IA) en radiología, centrándose en la importancia de ir más allá del cumplimiento regulatorio para garantizar la seguridad y eficacia de las herramientas de IA una vez desplegadas en entornos clínicos. Los autores destacan los desafíos en la implementación de estas herramientas, como la falta de confianza, fiabilidad y gobernanza en su uso, así como la necesidad de un monitoreo post-mercado más sólido y estandarizado.
La FDA y la conformidad europea (CE) han autorizado una amplia gama de dispositivos médicos habilitados por IA, especialmente en radiología, donde el 77% de los dispositivos aprobados en 2023 están enfocados. Sin embargo, existen discrepancias entre el rendimiento de estas herramientas en entornos controlados y su implementación en el mundo real. Esto ha generado preocupaciones sobre la falta de estudios independientes y la limitada evidencia clínica en las aplicaciones de IA aprobadas, lo que subraya la necesidad de auditorías clínicas y evaluaciones independientes que vayan más allá de las certificaciones regulatorias.
El artículo propone una serie de medidas para evaluar el rendimiento de las aplicaciones de IA, incluidas pruebas en laboratorio con conjuntos de datos validados y auditorías clínicas en entornos reales. Estas auditorías no solo deben centrarse en la precisión diagnóstica, sino también en aspectos como la seguridad, la fiabilidad y la interacción humana con la IA. Además, el uso de auditorías continuas podría identificar errores y prevenir daños clínicos, mejorando la adopción y confianza en las tecnologías de IA en radiología.
Los autores sugieren que las organizaciones profesionales, como el Royal College of Radiologists, jueguen un papel central en la implementación de un marco de auditoría que permita una comparación estandarizada de herramientas de IA, asegurando una mayor transparencia y consistencia en los resultados. Asimismo, se discuten temas como la adaptación de las herramientas de IA a diferentes contextos clínicos, el monitoreo de su desempeño a lo largo del tiempo para detectar “deriva algorítmica” y la necesidad de que los desarrolladores realicen una vigilancia post-comercialización más transparente.
Finalmente, el artículo concluye que, para garantizar una implementación segura y efectiva de la IA en radiología, es esencial que las herramientas de IA no solo cumplan con las regulaciones mínimas, sino que sean sometidas a evaluaciones más rigurosas y continuas a lo largo de su vida útil en entornos clínicos. Esto también puede proporcionar la base para evaluaciones económicas de la rentabilidad de las aplicaciones de IA, lo que es crucial para su adopción generalizada.
