I Jornadas de Inteligencia Artificial Conversacional en Salud
Una propuesta de consenso entre garantias y factibilidad
Organiza
Colaboran
MESAS DE CONSENSO
La IA recuperará tiempo médico de calidad para las PERSONAS
MESA 4. Ética y Legislación
CONSENSO
Mesa 4: Ética y Legislación
Grupo de Trabajo
Moderadora:
Inmaculada Castelló
Personas expertas:
Beatriz Aranda Moreno
Juan Carlos Sánchez Rosado
Nuria Amarilla
José María de la Higuera González
Temas tratados
Situación actual
Existe una tensión entre innovación y garantía en el ámbito europeo en el uso de la IA en salud.
El Reglamento de IA representa una ventaja para la armonización normativa en Europa, pero también puede percibirse como una barrera si no se desarrolla y aplica de forma ágil y flexible.
Es necesario garantizar que los modelos de IA conversacional sean entrenados con datos de calidad y que respeten principios éticos fundamentales.
Se requiere una mayor explicabilidad de los sistemas de IA para generar confianza en su uso dentro del sector sanitario.
Horizonte a alcanzar a corto/medio plazo
Asegurar la agilidad en la aplicación de la normativa para evitar que se convierta en un obstáculo para la innovación.
Lograr una mayor concreción de la normativa para garantizar seguridad jurídica y permitir el desarrollo de herramientas de soporte.
Garantizar la calidad de los datos con los que se entrenan los modelos de IA conversacional en salud.
Fomentar la explicabilidad de los sistemas de IA dentro de lo posible, para generar confianza en los profesionales sanitarios y los pacientes.
Acciones prioritarias
Promover la evaluación de conformidad conjunta conforme al Reglamento de IA y al Reglamento de Producto Sanitario, capacitando a los organismos notificados existentes.
Desarrollar estándares y procedimientos claros que faciliten el cumplimiento de la normativa en el desarrollo y aplicación de IA en salud.
Facilitar el acceso a espacios de datos seguros, asegurando su uso responsable y respetando los derechos de privacidad.
Capacitar a todos los profesionales sanitarios en el uso de IA en salud, permitiéndoles ejercer un control humano efectivo sobre estas herramientas.
Impulsar un marco regulador flexible que permita a la IA en salud desarrollarse sin que la normativa sea un freno a la innovación.