I Jornadas de Inteligencia Artificial Conversacional en Salud

Una propuesta de consenso entre garantias y factibilidad

Organiza

Colaboran

MESAS DE CONSENSO

La IA recuperará tiempo médico de calidad para las PERSONAS

MESA 4. Ética y Legislación

CONSENSO

Mesa 4: Ética y Legislación

Grupo de Trabajo

Moderadora:

  • Inmaculada Castelló

Personas expertas:

  • Beatriz Aranda Moreno
  • Juan Carlos Sánchez Rosado
  • Nuria Amarilla
  • José María de la Higuera González

Temas tratados

Situación actual

  • Existe una tensión entre innovación y garantía en el ámbito europeo en el uso de la IA en salud.
  • El Reglamento de IA representa una ventaja para la armonización normativa en Europa, pero también puede percibirse como una barrera si no se desarrolla y aplica de forma ágil y flexible.
  • Es necesario garantizar que los modelos de IA conversacional sean entrenados con datos de calidad y que respeten principios éticos fundamentales.
  • Se requiere una mayor explicabilidad de los sistemas de IA para generar confianza en su uso dentro del sector sanitario.

Horizonte a alcanzar a corto/medio plazo

  • Asegurar la agilidad en la aplicación de la normativa para evitar que se convierta en un obstáculo para la innovación.
  • Lograr una mayor concreción de la normativa para garantizar seguridad jurídica y permitir el desarrollo de herramientas de soporte.
  • Garantizar la calidad de los datos con los que se entrenan los modelos de IA conversacional en salud.
  • Fomentar la explicabilidad de los sistemas de IA dentro de lo posible, para generar confianza en los profesionales sanitarios y los pacientes.

Acciones prioritarias

  1. Promover la evaluación de conformidad conjunta conforme al Reglamento de IA y al Reglamento de Producto Sanitario, capacitando a los organismos notificados existentes.
  2. Desarrollar estándares y procedimientos claros que faciliten el cumplimiento de la normativa en el desarrollo y aplicación de IA en salud.
  3. Facilitar el acceso a espacios de datos seguros, asegurando su uso responsable y respetando los derechos de privacidad.
  4. Capacitar a todos los profesionales sanitarios en el uso de IA en salud, permitiéndoles ejercer un control humano efectivo sobre estas herramientas.
  5. Impulsar un marco regulador flexible que permita a la IA en salud desarrollarse sin que la normativa sea un freno a la innovación.

Patrocinan

MENU