Author(s): Mohammad Mohammad Amini, Marcia Jesus, Davood Fanaei Sheikholeslami, Paulo Alves, Aliakbar Hassanzadeh Benam, Fatemeh Hariri
Year: 2023
Bibliographic Reference: Amini, M. M., Jesus, M., Fanaei Sheikholeslami, D., Alves, P., Hassanzadeh Benam, A., & Hariri, F. (2023). Artificial Intelligence Ethics and Challenges in Healthcare Applications: A Comprehensive Review in the Context of the European GDPR Mandate. Machine Learning and Knowledge Extraction, 5(3), 1023-1035. https://doi.org/10.3390/make5030053
Categoría asignada: Ética y regulación
Resumen: #
El documento Artificial Intelligence Ethics and Challenges in Healthcare Applications examina las cuestiones éticas relacionadas con el uso de la inteligencia artificial (IA) en la atención sanitaria, específicamente en el contexto del Reglamento General de Protección de Datos (GDPR) de la Unión Europea. El análisis se centra en cómo la GDPR influye en los proyectos de IA en el sector salud, abarcando desde la recopilación de datos hasta la toma de decisiones, revelando las implicaciones éticas en cada etapa. Este artículo ofrece una revisión exhaustiva de la literatura, clasificando las investigaciones en tres categorías principales: consideraciones éticas en IA, desafíos prácticos en la integración de IA y las implicaciones legales y normativas.
Uno de los aspectos clave analizados es el reto de garantizar la interpretabilidad y responsabilidad de los algoritmos de IA utilizados en la toma de decisiones clínicas. Los autores argumentan que, para generar confianza entre los profesionales de la salud y los pacientes, es fundamental que los sistemas de IA sean transparentes y comprensibles. Esto implica que las predicciones hechas por la IA deben ser explicables para los usuarios, y que se debe mitigar el sesgo algorítmico para evitar discriminación en los diagnósticos y tratamientos médicos.
El sesgo es otro de los principales problemas tratados. Los autores destacan que los sistemas de IA entrenados con datos limitados o no representativos pueden perpetuar desigualdades existentes en la atención sanitaria, afectando a poblaciones vulnerables. Esto es especialmente relevante en los casos en los que la IA se utiliza para decisiones críticas, como el diagnóstico de enfermedades raras o la personalización de tratamientos. A pesar de los avances tecnológicos, muchos sistemas aún dependen de datos que no representan adecuadamente a todas las poblaciones, lo que plantea riesgos de sesgo y errores en el diagnóstico.
En términos de desafíos prácticos, el artículo discute las dificultades técnicas y pedagógicas en la implementación de IA en entornos sanitarios. La interdisciplinariedad es fundamental para superar estas barreras, ya que el desarrollo de IA en salud requiere la colaboración entre expertos técnicos, médicos y legales. Un desafío importante es la limpieza de datos en los sistemas médicos, que debe realizarse de manera ética y eficiente para garantizar que los algoritmos se entrenen con datos precisos y útiles.
Desde una perspectiva legal, el documento explora la privacidad de los datos y la conformidad con el GDPR como pilares fundamentales en el desarrollo de IA para la salud. La recolección y el manejo de datos de salud personales representan desafíos únicos, ya que dichos datos son altamente sensibles y valiosos tanto para entidades públicas como privadas. Los autores subrayan la necesidad de mecanismos robustos para garantizar que los datos se recopilen y utilicen de manera que se respete la privacidad de los pacientes, cumpliendo con las normativas del GDPR. También se hace hincapié en la necesidad de desarrollar métodos sostenibles para la gestión de datos abiertos en el sector salud.
En la revisión también se presenta un estudio de caso del proyecto Sensomatt, que utiliza IA para medir la distribución de presión en pacientes con movilidad limitada, a fin de reducir el riesgo de úlceras por presión. Este caso práctico resalta algunos de los desafíos éticos y regulatorios que enfrentan los proyectos de IA en el sector salud, especialmente en lo que respecta a la recopilación de datos y la protección de la privacidad de los pacientes.
En conclusión, este artículo pone de relieve la importancia de abordar de manera equilibrada las consideraciones éticas, prácticas y legales en la adopción de IA en la atención sanitaria. Los autores concluyen que el cumplimiento de las normativas de privacidad, la reducción del sesgo algorítmico y la transparencia son esenciales para desarrollar prácticas responsables de IA que beneficien tanto a los pacientes como a los profesionales de la salud.
