EU Kommission aktualisiert Living Guidelines zur Nutzung von KI in der Forschung

Mit den Living guidelines on the responsible use of generative AI in research möchte die EU Kommission Forschende, Forschungseinrichtungen und Förderinstitutionen beim verantwortungsvollen Umgang mit generativen KI-Systemen unterstützen. Diese wurden nun aktualisiert. 

Neu hinzugekommen sind Hinweise, dass auch beim Agieren mit Dritten, der KI-Einsatz transparent gemacht werden sollte. Ferner weisen die guidelines nun noch verstärkter auf die Verantwortlichkeit der Forschenden für den Output hin: Forschende sollten angegebene Quellen, enthaltene Tatsachenbehauptungen und den Inhalt von Zusammenfassungen überprüfen. Auch werden Kreuzvalidierungen, insbesondere für automatisierte Datenanalysen empfohlen. Als wichtig sehen die Guidelines auch das Schaffen einer vertrauensvollen Atmosphäre an, in der Forschende ermuntert werden, die Nutzung von KI transparent zu machen.  Forschungsförderer werden zusätzlich insbesondere für das Problem von “hidden prompts”, d.h. kleinen Anweisungen, die zu verbesserten Bewertungen etwa von Anträgen führen können, sensibilisiert.  

Zu den Guidelines

Siehe auch: European Research Area (ERA) Policy Agenda 2025-27 - Verantwortungsvolle Nutzung von KI in der Forschung unterstützen und gestalten.