Autor(es): Vidushi Goel, Neha Bahl
Año: 2024
Referencia bibliográfica:
Goel, V., & Bahl, N. (2024). Studying the Intricacies Artificial Intelligence and Legal Liability of Doctors and Medical Institutions: A Critical Analysis. AIP Conference Proceedings, 2816, 130002. https://doi.org/10.1063/5.0179538
Categoría asignada: Ética y regulación
Resumen:
El artículo Studying the Intricacies Artificial Intelligence and Legal Liability of Doctors and Medical Institutions: A Critical Analysis explora la creciente complejidad legal que rodea la responsabilidad médica en la era de la inteligencia artificial (IA), especialmente en lo que respecta a la asignación de culpa cuando los sistemas basados en IA intervienen en decisiones de diagnóstico y tratamiento. Los autores se enfocan en los dilemas que plantea el uso de herramientas basadas en IA en el ámbito médico y cómo afecta a los conceptos tradicionales de negligencia médica.
En el pasado, cuando se cometía un error médico, era relativamente sencillo identificar la responsabilidad, generalmente asignada al médico o la institución que brindaba la atención. Sin embargo, con el uso de sistemas de decisión clínica (CDSS) impulsados por IA, surge la cuestión de si la responsabilidad recae en el médico que utilizó la herramienta o en los desarrolladores del algoritmo que produjo una salida incorrecta. Este artículo examina los marcos legales existentes y su capacidad para adaptarse a estas nuevas realidades tecnológicas.
Los autores comienzan por definir conceptos clave, como la responsabilidad basada en culpa (donde el paciente debe demostrar que el médico actuó negligentemente) y la responsabilidad sin culpa (en la que se otorga compensación sin necesidad de probar negligencia, sino solo un vínculo causal entre el daño y el producto o servicio). En el contexto de la IA, el uso de sistemas de caja negra plantea nuevos desafíos porque los médicos a menudo no comprenden completamente cómo el algoritmo produce sus resultados, lo que genera incertidumbre sobre si las decisiones basadas en IA cumplen con los estándares médicos tradicionales.
Uno de los puntos críticos abordados es cómo la ley de responsabilidad médica puede aplicarse en situaciones donde el uso de IA contribuye a un error médico. Los autores señalan que, si bien la IA está destinada a complementar la experiencia médica, no a reemplazarla, la falta de transparencia en los algoritmos y la dependencia excesiva en sus salidas podrían llevar a que los médicos descuiden su juicio clínico. En tales casos, se argumenta que la responsabilidad debería recaer en los médicos si fallan en evaluar críticamente la salida del algoritmo o si no explican adecuadamente al paciente que la decisión médica está basada en un sistema automatizado.
El artículo también examina la negligencia médica en dos escenarios específicos: cuando se utiliza software obsoleto o cuando los médicos no informan a los pacientes que su diagnóstico o tratamiento está basado en la IA. Estas situaciones pueden generar problemas de responsabilidad si el paciente sufre daño, y los autores sugieren que los médicos tienen la obligación de mantenerse actualizados con los avances tecnológicos y de advertir a los pacientes sobre los riesgos asociados con el uso de IA en su atención médica.
Un aspecto interesante de la discusión es la distinción entre los errores de planificación (aplicación de un plan incorrecto) y los errores de ejecución (fallo al implementar un plan adecuado). En el contexto de la IA, los errores de planificación pueden ser más comunes cuando el algoritmo sugiere un tratamiento incorrecto que el médico sigue sin cuestionar. Esto plantea dudas sobre si la responsabilidad debería recaer en los desarrolladores del sistema de IA, especialmente si el error proviene de fallos en el software o en el algoritmo.
Además, los autores plantean el concepto de responsabilidad vicaria, donde las instituciones médicas pueden ser responsables por el uso de sistemas de IA defectuosos si no se aseguran de que los algoritmos utilizados cumplan con los estándares de seguridad requeridos. Las instituciones tienen la responsabilidad de proporcionar tanto personal capacitado como tecnología segura para la atención médica.
En conclusión, el artículo llama a una actualización de los marcos legales para abordar la creciente dependencia de la IA en la medicina. Los autores sugieren que la responsabilidad debe ser compartida entre médicos, instituciones y desarrolladores de tecnología, y proponen que se implementen regulaciones más claras para definir los límites de la responsabilidad cuando se utilizan herramientas de IA en el tratamiento médico. Esto es crucial para garantizar que los pacientes reciban una atención segura y de alta calidad mientras se protege a los médicos de la incertidumbre legal que acompaña al uso de tecnologías emergentes.
