Author(s): United Nations Human Rights Office of the High Commissioner
Year:
Bibliographic Reference: United Nations Human Rights Office of the High Commissioner. Taxonomy of Human Rights Risks Connected to Generative AI. Supplement to B-Tech’s Foundational Paper on the Responsible Development and Deployment of Generative AI.
Categoría asignada: Ética y regulación
Resumen: #
El documento Taxonomy of Human Rights Risks Connected to Generative AI, publicado como suplemento al informe de base del proyecto B-Tech de la ONU, proporciona un análisis exhaustivo de los riesgos que la inteligencia artificial generativa (IA) plantea para los derechos humanos. Este informe se centra en cómo las tecnologías de IA generativa, que incluyen modelos de lenguaje y sistemas que crean contenido autónomo, pueden afectar negativamente los derechos internacionalmente reconocidos y protegidos. Su objetivo es proporcionar un marco de referencia sobre cómo aplicar los Principios Rectores de la ONU sobre las Empresas y los Derechos Humanos (UNGPs) para abordar dichos riesgos.
El informe subraya que, aunque los discursos públicos han abordado parcialmente los impactos de la IA generativa, no siempre se relacionan estos impactos con los derechos humanos garantizados internacionalmente. El enfoque en los derechos humanos es esencial porque son normas morales y legales reconocidas globalmente y proporcionan una base sólida para evaluar tanto los efectos positivos como los negativos de la IA generativa. Esta tecnología plantea riesgos especialmente graves para grupos vulnerables o marginados, como mujeres, niñas y poblaciones del sur global, que ya enfrentan una mayor exposición a la discriminación y otros daños.
La taxonomía se organiza alrededor de varios derechos fundamentales que pueden verse afectados negativamente por la IA generativa. A continuación, se presenta un resumen de algunos de los principales riesgos destacados:
- Derecho a la seguridad física y psicológica: La IA generativa puede producir información errónea que podría amenazar la seguridad mental y física de las personas. Esto incluye la creación de desinformación que incite a la violencia o que exponga a grupos vulnerables a daños. También se destacan los peligros relacionados con el uso de la IA para generar contenido sexual sin consentimiento, como la pornografía “deepfake”, que afecta mayormente a mujeres y niñas.
- Derecho a la igualdad ante la ley y protección contra la discriminación: Los modelos de IA reflejan los sesgos presentes en los datos de entrenamiento, lo que puede perpetuar estereotipos y agravar las desigualdades existentes. Los grupos marginados, como personas de diferentes etnias, géneros o condiciones sociales, corren el riesgo de sufrir discriminación a través de decisiones automatizadas. Además, la falta de representación de lenguas y culturas de países con menos recursos en los sistemas de IA aumenta la brecha digital y fomenta la exclusión.
- Derecho a la privacidad: Los grandes volúmenes de datos utilizados para entrenar a los modelos de IA generativa a menudo incluyen información personal sin el consentimiento adecuado. Los usuarios también pueden ingresar datos confidenciales en los sistemas de IA sin saber cómo se utilizarán o almacenarán, lo que incrementa el riesgo de vulneraciones de la privacidad y exposición a ataques cibernéticos.
- Libertad de expresión y acceso a la información: La IA generativa puede crear contenido falso que erosiona la confianza pública y oculta información verificada. La proliferación de desinformación y noticias falsas puede dañar el derecho de las personas a recibir información veraz, socavando la capacidad de los ciudadanos para tomar decisiones informadas y participativas, especialmente en procesos democráticos.
- Derechos laborales: La automatización impulsada por la IA generativa puede reemplazar trabajos, lo que pone en riesgo el derecho al empleo y a condiciones laborales justas. Los trabajadores en industrias creativas, como artistas y diseñadores, son particularmente vulnerables a ser desplazados por la IA, lo que genera desigualdades y tensiones en el mercado laboral.
El documento concluye que los riesgos asociados con la IA generativa están evolucionando rápidamente y que surgirán nuevos desafíos a medida que la tecnología y sus aplicaciones continúen desarrollándose. Las partes interesadas —desde gobiernos hasta empresas— deben colaborar para asegurar que el progreso en IA no comprometa los derechos fundamentales. Identificar, prevenir y mitigar estos riesgos es esencial para proteger la dignidad humana en el contexto de la IA generativa.
