Author(s): Nuffield Council on Bioethics
Year: 2018
Bibliographic Reference: Nuffield Council on Bioethics. (2018). Artificial Intelligence (AI) in Healthcare and Research. Nuffieldbioethics.org.
Categoría asignada: Ética y regulación
Resumen: #
El documento Artificial Intelligence (AI) in Healthcare and Research, publicado en 2018 por el Nuffield Council on Bioethics, examina el impacto de la inteligencia artificial (IA) en el sector de la salud y la investigación médica. Explora tanto los beneficios potenciales como los desafíos éticos y sociales que surgen del uso creciente de la IA en estas áreas. El informe destaca la importancia de un desarrollo y una implementación de la IA que sea segura, transparente y ética, centrándose en la protección de los derechos de los pacientes y la equidad en el acceso a la atención médica.
La IA se utiliza en una variedad de aplicaciones dentro del cuidado de la salud, incluyendo la detección temprana de enfermedades, la gestión de condiciones crónicas, la planificación de servicios sanitarios y el descubrimiento de nuevos medicamentos. Estas tecnologías tienen el potencial de transformar la asistencia sanitaria al mejorar la precisión diagnóstica y acelerar la investigación médica. Sin embargo, el informe advierte que estas oportunidades vienen acompañadas de importantes riesgos, como la posible perpetuación de sesgos, la falta de transparencia en los procesos de toma de decisiones y las implicaciones para la privacidad de los datos.
Uno de los puntos centrales del documento es la fiabilidad y seguridad de los sistemas de IA. Aunque la IA puede hacer que los diagnósticos sean más rápidos y precisos, también puede cometer errores difíciles de detectar. Un ejemplo citado es el caso de una aplicación de IA que erróneamente recomendó enviar a casa a pacientes con asma, debido a una mala interpretación de los datos contextuales. Estos errores pueden tener consecuencias graves, especialmente cuando la IA se utiliza para controlar equipos médicos o realizar tratamientos.
El informe también aborda el tema de la transparencia y responsabilidad en la toma de decisiones. Muchas tecnologías de IA, especialmente aquellas basadas en aprendizaje automático, operan de manera opaca, lo que significa que es difícil entender cómo llegan a sus conclusiones. Esto plantea desafíos éticos sobre cómo validar las decisiones de la IA y quién es responsable en caso de que ocurra un error. El Reglamento General de Protección de Datos (GDPR) de la UE establece que las personas tienen derecho a no estar sujetas a decisiones basadas únicamente en el procesamiento automatizado si estas decisiones tienen efectos significativos en ellas. Sin embargo, aún no está claro cómo se puede aplicar este derecho a las decisiones tomadas por sistemas de IA complejos.
Otro aspecto clave discutido es el sesgo de datos. La IA, a menudo, refleja y refuerza los sesgos presentes en los datos con los que se entrena. Esto puede llevar a decisiones discriminatorias que afectan negativamente a ciertos grupos, especialmente aquellos subrepresentados en los conjuntos de datos médicos, como las poblaciones minoritarias. El informe recomienda una mayor diversidad entre los desarrolladores de IA y una mejor representación de diferentes grupos en los datos para evitar este problema.
El documento también considera las implicaciones laborales del uso de la IA en el cuidado de la salud. Si bien la IA puede liberar a los profesionales de tareas rutinarias, también existe el riesgo de que estas tecnologías desplacen a trabajadores humanos o justifiquen la contratación de personal menos cualificado. Este fenómeno podría afectar la calidad de la atención si los trabajadores no tienen las habilidades necesarias para reconocer o corregir los errores que cometan los sistemas de IA.
Finalmente, el informe subraya la importancia de la confianza en la IA. Los pacientes y los profesionales de la salud deben tener confianza en las decisiones de la IA para que estas tecnologías se adopten con éxito. Sin embargo, la desconfianza pública puede aumentar si las personas sienten que no tienen control sobre cómo se usan sus datos de salud o si perciben que las decisiones se toman sin una justificación clara.
En conclusión, aunque la IA tiene el potencial de revolucionar el cuidado de la salud, su implementación plantea desafíos significativos que requieren un enfoque ético riguroso. Los responsables de políticas, los desarrolladores y los profesionales de la salud deben colaborar para garantizar que la IA se utilice de manera que beneficie a todos de manera equitativa, protegiendo los derechos humanos y manteniendo altos estándares de seguridad y transparencia.
