Leitlinien für den verantwortungsvollen Einsatz generativer KI in der Forschung, entwickelt vom European Research Area Forum

Die EU-Kommission hat zusammen mit den Ländern des Europäischen Forschungsraums und den Interessengruppen eine Reihe von Leitlinien vorgelegt, um die europäische Forschungsgemeinschaft bei der verantwortungsvollen Nutzung generativer künstlicher Intelligenz (KI) zu unterstützen.

Angesichts der raschen Verbreitung dieser Technologie in allen Bereichen, auch in der Wissenschaft, befassen sich diese Empfehlungen mit den wichtigsten Chancen und Herausforderungen. Aufbauend auf den Grundsätzen der Integrität der Forschung bieten sie Forschenden, Forschungseinrichtungen und Forschungsförderern eine Orientierungshilfe, um einen kohärenten Ansatz in ganz Europa zu gewährleisten. Die Grundsätze, auf denen die neuen Leitlinien beruhen, stützen sich auf bestehende Rahmenwerke wie den Europäischen Verhaltenskodex für die Integrität der Forschung und die Leitlinien für vertrauenswürdige KI.
Die KI verändert die Forschung, macht die wissenschaftliche Arbeit effizienter und beschleunigt die Entdeckung. Generative KI-Tools bieten zwar Schnelligkeit und Komfort bei der Erstellung von Texten, Bildern und Code, doch müssen Forscher auch die Grenzen der Technologie beachten, z. B. Plagiate, die Preisgabe sensibler Informationen oder inhärente Verzerrungen in den Modellen.

Zu den wichtigsten Erkenntnissen der Leitlinien gehören:

• Forschende verzichten auf den Einsatz generativer KI-Tools bei sensiblen Tätigkeiten wie Peer-Reviews oder Evaluierungen und nutzen generative KI unter Wahrung der Privatsphäre, der Vertraulichkeit und der Rechte an geistigem Eigentum.
• Forschungseinrichtungen sollten den verantwortungsvollen Einsatz von generativer KI fördern und aktiv überwachen, wie diese Werkzeuge in ihren Einrichtungen entwickelt und eingesetzt werden.
• Förderorganisationen sollten Antragsteller bei der transparenten Nutzung generativer KI unterstützen.

Da sich generative KI ständig weiterentwickelt, werden diese Leitlinien durch regelmäßiges Feedback aus der wissenschaftlichen Gemeinschaft und von Interessengruppen aktualisiert.
Weitere Informationen fnden Sie hier.