Generative KI in der Forschung: EU aktualisiert ERA-Leitlinien

Die Europäische Kommission hat am 16. Oktober 2026 die aktualisierten „ERA Living Guidelines“ zum verantwortungsvollen Einsatz generativer künstlicher Intelligenz (KI) in der Forschung veröffentlicht. Die Empfehlungen richten sich an Forschende, Forschungseinrichtungen und Forschungsförderorganisationen. Neue Schwerpunkte sind agentenbasierte KI sowie der Einsatz von KI in Peer-Review-Verfahren und bei der Bewertung von Förderanträgen.

Generative KI kann wissenschaftliche Arbeit unterstützen – etwa bei Literaturrecherchen, der Programmierung oder der Aufbereitung von Forschungsergebnissen. Gleichzeitig wirft ihr Einsatz Fragen zur Zuverlässigkeit, Transparenz und Vertraulichkeit auf. Die überarbeiteten ERA-Leitlinien des Europäischen Forschungsraums (European Research Area, ERA)“ bieten dafür praxisorientierte Orientierung auf Grundlage der wissenschaftlichen Integrität.

Agentenbasierte KI: Verantwortung bleibt beim Menschen

KI-Agenten können zunehmend komplexe Aufgaben planen und mit einem gewissen Grad an Autonomie ausführen. Die aktualisierten Leitlinien empfehlen deshalb geeignete Kontrollpunkte, an denen Forschende insbesondere methodische Entscheidungen überprüfen und bestätigen. Auch beim Einsatz autonomer Werkzeuge bleiben die Forschenden für die wissenschaftlichen Ergebnisse verantwortlich.

KI bei Peer Reviews und der Bewertung von Förderanträgen

Ein weiterer Schwerpunkt betrifft wissenschaftliche Begutachtungen. Die Leitlinien präzisieren, unter welchen Voraussetzungen generative KI unterstützend eingesetzt werden kann. Dabei gelten insbesondere folgende Grundsätze:

• Wissenschaftliche Bewertungen bleiben menschliche Aufgaben: Fachliche Urteile dürfen nicht an KI-Werkzeuge delegiert werden.
• Vertraulichkeit muss gewährleistet sein: Unveröffentlichte Anträge, Manuskripte und Gutachten dürfen nicht über ungesicherte KI-Werkzeuge offengelegt werden.
• Die jeweiligen Vorgaben sind maßgeblich: Gutachtende müssen die Regeln der zuständigen Förderorganisation, Einrichtung oder Fachzeitschrift beachten.

Für Förderorganisationen enthalten die Leitlinien zudem Empfehlungen, wie sie zulässige KI-Anwendungen erläutern und Transparenz im Begutachtungsprozess unterstützen können.

Praxisorientierte Empfehlungen für die Forschung

Die ERA-Leitlinien sind unverbindliche Empfehlungen. Sie ergänzen bestehende gesetzliche, institutionelle und förderspezifische Vorgaben. Forschenden und Einrichtungen bieten sie eine Grundlage, um den KI-Einsatz kritisch zu prüfen, Verantwortlichkeiten zu klären und wesentliche KI-Beiträge nachvollziehbar offenzulegen.

Die erstmals 2024 veröffentlichten „Living Guidelines“ werden gemeinsam mit Ländern und Interessengruppen im Europäischen Forschungsraum (European Research Area, ERA) weiterentwickelt. Bringen Sie Ihre Erfahrungen zum Einsatz generativer KI in der Forschung ein und geben Sie Feedback zu den Leitlinien.

Sie nutzen generative KI in Ihrer Forschung oder im Umgang mit Förderanträgen? Die aktualisierten Leitlinien bieten Orientierung für einen transparenten und verantwortungsvollen Einsatz.

• Aktualisierte ERA-Leitlinien herunterladen (PDF, Englisch)
• Factsheet herunterladen (PDF, Englisch)

Dipl.-Wirt.-Ing. Dan Gutu
Wissenschaftlicher Referent Informations-/Kommunikationstechnologien |
Natur- & Ingenieurwissenschaften
Telefon: +49 89 9901888-136
E-Mail: gutu@no-spam-pleasebayfor.org