Author(s): Brian Anderson, Eric Sutherland, OECD
Year: 2024
Bibliographic Reference: Anderson, B., & Sutherland, E. (2024). Collective Action for Responsible AI in Health. OECD Artificial Intelligence Papers, No. 10. OECD Publishing.
Categoría asignada: Ética y regulación
Resumen: #
El documento Collective Action for Responsible AI in Health, publicado en enero de 2024 como parte de los OECD Artificial Intelligence Papers, explora cómo la inteligencia artificial (IA) puede transformar los sistemas de salud globales, al mismo tiempo que aborda los riesgos éticos y de seguridad asociados con su implementación. El informe analiza las oportunidades y barreras para la adopción de IA responsable en salud y ofrece recomendaciones para los responsables políticos, poniendo énfasis en la necesidad de colaboración internacional para superar los desafíos técnicos y humanos.
La IA tiene el potencial de hacer que los sistemas de salud sean más resilientes, sostenibles, equitativos y centrados en las personas. Sin embargo, si no se gestiona adecuadamente, la IA puede exacerbar las desigualdades existentes y causar daños tanto a individuos como a la sociedad en general. Uno de los principales riesgos es el sesgo algorítmico, que puede amplificar la discriminación en los resultados de salud si los datos utilizados para entrenar los modelos no son representativos de toda la población. Además, existen preocupaciones sobre la privacidad y la seguridad de los datos personales, dado el gran volumen de información que se utiliza en los sistemas de IA.
El documento identifica cuatro áreas clave de acción para garantizar el desarrollo de una IA responsable en salud:
- Mejorar la confianza en la IA: La adopción de la IA en salud depende en gran medida de que los pacientes y los profesionales confíen en las tecnologías utilizadas. Esto requiere transparencia sobre cómo los sistemas de IA toman decisiones, así como la garantía de que los datos personales se manejan de manera segura. El documento propone establecer reglas claras sobre la propiedad y control de los datos, junto con la supervisión pública del rendimiento de los sistemas de IA.
- Desarrollar capacidades: Los sistemas de salud deben invertir en la capacitación de profesionales para que comprendan y utilicen la IA de manera efectiva. Esto incluye desarrollar competencias en alfabetización digital tanto para el personal sanitario como para los pacientes, asegurando que las herramientas de IA se utilicen de manera que beneficien a todas las partes involucradas.
- Evaluar y evolucionar las soluciones de IA: Es fundamental implementar mecanismos de evaluación continua para garantizar que los sistemas de IA funcionen de manera segura y eficaz. Esto puede incluir la vigilancia post-mercado de los sistemas, similar a la que se realiza con los medicamentos, para monitorear el rendimiento y detectar posibles problemas.
- Acelerar la cooperación internacional: Dado que la salud y la IA son desafíos globales, la cooperación internacional es clave para maximizar los beneficios de la IA en salud. Esto incluye compartir datos de salud de manera segura entre países para impulsar la investigación médica y mejorar la equidad en el acceso a tratamientos innovadores. Además, la cooperación permitirá reducir los costos de desarrollo y aumentar la eficiencia regulatoria, garantizando que las soluciones de IA puedan escalarse a nivel mundial.
El documento destaca que, aunque existen tecnologías avanzadas para el desarrollo de soluciones de IA, la implementación sigue siendo desigual debido a problemas de fragmentación de los sistemas de salud y falta de estándares comunes para la interoperabilidad de los datos. Las políticas deben ser ágiles y adaptarse a los rápidos avances tecnológicos para asegurar que los sistemas de IA se implementen de manera coherente en todos los países, evitando la creación de silos de datos que limiten el progreso.
Asimismo, el informe subraya la importancia de que los gobiernos tomen medidas inmediatas para mitigar los riesgos asociados con la IA en salud, como el desplazamiento de la fuerza laboral y la despersonalización de la atención. Las políticas deben garantizar que la IA complemente, en lugar de reemplazar, a los profesionales de la salud, mejorando su productividad y permitiéndoles dedicar más tiempo a la atención directa de los pacientes.
En conclusión, el informe de la OCDE hace un llamado urgente a la acción colectiva para garantizar que la IA en salud se desarrolle y utilice de manera responsable, con el objetivo de mejorar los resultados de salud para todos sin comprometer los valores fundamentales de equidad, seguridad y derechos humanos.
