Author(s): OECD AI Expert Group on AI Incidents
Year: 2024
Bibliographic Reference (APA format):
OECD AI Expert Group on AI Incidents. (2024). Defining AI Incidents and Related Terms. OECD Publishing. https://doi.org/10.1787/AI-OECD-Publication
Assigned Category: Veracidad de la información (Information veracity)
Resumen:
Este informe de la Organización para la Cooperación y el Desarrollo Económicos (OCDE) presenta definiciones preliminares para incidentes de inteligencia artificial (IA) y términos relacionados. Estas definiciones son clave para el desarrollo de un marco común para la notificación de incidentes de IA y para la creación del AI Incidents Monitor (AIM). El informe destaca que a medida que aumenta el uso de sistemas de IA, también lo hacen sus beneficios y riesgos, lo que subraya la importancia de gestionar los daños potenciales y reales que pueden causar estos sistemas.
El documento proporciona una clasificación preliminar de incidentes de IA y peligros relacionados, dividiéndolos en tres tipos principales: incidentes, peligros graves e incluso desastres de IA. Un incidente de IA se define como un evento en el que el uso o mal funcionamiento de un sistema de IA causa daños, que pueden variar desde lesiones físicas hasta la violación de derechos humanos o daños a infraestructuras críticas. Los peligros potenciales también se tienen en cuenta, ya que una serie de eventos podría conducir a un incidente grave o desastre.
El informe también aborda el concepto de gravedad y propone una serie de criterios para clasificar la magnitud del daño causado, como la reversibilidad, el alcance geográfico, la tangibilidad y la recurrencia del daño. Esto permitirá una evaluación más precisa y una respuesta más adecuada a los incidentes de IA en diferentes jurisdicciones. Asimismo, se destacan ejemplos de incidentes graves que podrían perturbar infraestructuras críticas o causar daños ambientales irreversibles.
En conclusión, el informe establece un marco básico que permitirá a gobiernos, reguladores y empresas gestionar mejor los riesgos asociados a la IA. Esto incluye recomendaciones para crear mecanismos de notificación de incidentes a nivel internacional, fomentando la transparencia y la cooperación entre diferentes actores .
