Author(s): European Commission, Directorate-General for Research and Innovation
Year: 2024
Bibliographic Reference (APA format):
European Commission. (2024). Living Guidelines on the Responsible Use of Generative AI in Research. Directorate-General for Research and Innovation, Brussels. https://doi.org/10.2777/AI-guidelines-research-2024
Assigned Category: Veracidad de la información (Information veracity)
Resumen:
Este documento, publicado por la Comisión Europea, ofrece directrices sobre el uso responsable de la inteligencia artificial generativa (IA) en la investigación científica. Las recomendaciones están dirigidas a investigadores, organizaciones de investigación y organismos de financiación, proporcionando una base ética y operativa para garantizar la integridad y la fiabilidad en la utilización de modelos generativos de IA en la producción de conocimiento científico.
El informe subraya varios principios clave, como la fiabilidad en el diseño y análisis de la investigación, la honestidad en la divulgación del uso de IA, el respeto a los colegas, participantes y sujetos de la investigación, y la responsabilidad general en todo el ciclo de vida de la investigación. Se enfatiza la importancia de no delegar en la IA tareas sensibles, como la revisión por pares o la evaluación de propuestas, y de mantener siempre la supervisión humana sobre los resultados generados.
Uno de los aspectos más críticos abordados en el documento es la transparencia: los investigadores deben declarar abiertamente cuándo y cómo han utilizado IA generativa, siendo conscientes de las limitaciones inherentes de estos sistemas, como los sesgos y las “alucinaciones” o errores en la generación de información. Asimismo, se insta a los investigadores a evitar el uso de datos sensibles sin garantías sobre su privacidad y a cumplir con las normativas de protección de datos vigentes en la Unión Europea.
Estas directrices vivas se actualizarán regularmente para mantenerse alineadas con los rápidos avances tecnológicos, fomentando el uso de IA generativa de manera que se maximicen sus beneficios sin comprometer la calidad y veracidad de la investigación científica.
