Author(s): OECD (Organisation for Economic Co-operation and Development)
Year: 2024
Bibliographic Reference: OECD. (2024). AI in Health: Huge Potential, Huge Risks. Paris: OECD Publishing.
Categoría asignada: Ética y regulación
Resumen: #
El documento AI in Health: Huge Potential, Huge Risks publicado por la OECD en 2024, explora las oportunidades y los riesgos asociados con el uso de la inteligencia artificial (IA) en el sector de la salud. A medida que la IA sigue ganando terreno en diversas aplicaciones médicas, el informe destaca su capacidad para mejorar significativamente los resultados de salud, pero también subraya los peligros éticos, de seguridad y equidad que su implementación puede traer si no se gestionan adecuadamente.
La IA tiene el potencial de transformar el cuidado de la salud, mejorando la eficiencia y la precisión en áreas como el diagnóstico, el tratamiento de enfermedades crónicas y la optimización de flujos de trabajo. Por ejemplo, la IA puede reducir el margen de error en diagnósticos médicos y ayudar a los profesionales de la salud a gestionar mejor las cargas de trabajo mediante la automatización de tareas administrativas. En 2023, se estima que alrededor de 163.000 personas en Europa murieron debido a errores médicos, de los cuales un 30% fueron causados por fallos en la comunicación. La IA puede abordar estos problemas proporcionando la información correcta en el momento oportuno, mejorando la coordinación y reduciendo errores fatales.
Uno de los mayores beneficios de la IA es su capacidad para procesar grandes cantidades de datos de salud. Actualmente, se estima que el 97% de los datos de salud no se utiliza para tomar decisiones clínicas. La IA puede cambiar esto, ayudando a los sistemas de salud a aprovechar mejor los datos existentes, desde historiales médicos hasta estudios clínicos, lo que podría acelerar el desarrollo de tratamientos y personalizar el cuidado médico de los pacientes. Un ejemplo claro fue el uso de IA durante la pandemia de COVID-19, donde ayudó a detectar signos tempranos de la enfermedad y a acelerar el desarrollo de vacunas.
Sin embargo, el documento también subraya que la adopción de IA en el sector salud está llena de riesgos. Entre los desafíos más críticos está el sesgo en los datos. Si los datos utilizados para entrenar los sistemas de IA no son representativos de la población, los resultados pueden ser inexactos o incluso perjudiciales para ciertos grupos. Esto es particularmente preocupante en contextos donde los datos médicos provienen mayoritariamente de países o poblaciones con mejores recursos, lo que puede llevar a soluciones que no sean aplicables a todos los pacientes de manera equitativa.
El riesgo para la privacidad es otro tema clave en el informe. El manejo de grandes volúmenes de información personal en sistemas de IA puede resultar en brechas de seguridad que comprometan la privacidad de los pacientes. Los ciberataques en el sector salud han aumentado significativamente, con pérdidas proyectadas que podrían alcanzar los 10,5 billones de dólares para 2025. Por lo tanto, es crucial que los sistemas de IA implementen protecciones robustas contra amenazas cibernéticas y aseguren que los datos de los pacientes sean manejados de forma segura y ética.
Además, el documento resalta los peligros asociados con la falta de transparencia y responsabilidad en el uso de la IA en salud. Los algoritmos de IA pueden ser opacos, dificultando que los profesionales de la salud y los pacientes comprendan cómo se toman las decisiones. Sin claridad en la toma de decisiones, se corre el riesgo de que las soluciones de IA sean rechazadas o mal implementadas, lo que podría generar desconfianza tanto en los profesionales como en los pacientes.
El informe concluye que es urgente implementar un marco regulador claro que guíe el desarrollo y la implementación de la IA en salud. La OECD destaca la necesidad de principios de IA centrados en el ser humano, que aseguren que las tecnologías respeten los derechos fundamentales, sean equitativas, transparentes y seguras. Asimismo, la cooperación internacional es clave para garantizar que los sistemas de IA en salud sean efectivos y beneficien a todas las poblaciones, superando las barreras de inequidad y acceso.
En resumen, aunque la IA en la salud tiene un enorme potencial para mejorar la atención médica y los resultados de los pacientes, los riesgos que presenta requieren una supervisión cuidadosa y un marco ético sólido para garantizar que los beneficios sean accesibles y seguros para todos.
