Der AI Act ist die Verordnung der Europäischen Union zur Regulierung von Künstlicher Intelligenz (KI). Diese soll Risiken für Gesundheit, Sicherheit und Grundrechte minimieren und zugleich Innovation ermöglichen. Der AI Act verfolgt einen risikobasierten Ansatz – verbietet z.B. bestimmte hochriskante KI-Anwendungen (https://artificialintelligenceact.eu/de/annex/3/) und stellt Regeln für Transparenz und Aufsicht auf. Hochschulen sollten die Entwicklungen dieser Verordnung im Blick behalten, da sie den Rahmen für zulässige KI-Systeme (z.B. in der Personalverwaltung oder Entscheidungsfindung) setzen wird.
Datenschutz (DSGVO): Datenschutzrichtlinien gelten uneingeschränkt auch beim KI-Einsatz. Sobald personenbezogene Daten ins Spiel kommen (z.B. Studierendendaten, Personalakten), greift die DSGVO. Dies bedeutet u.a.: Keine unbefugte Weitergabe von Daten an KI-Dienste, transparente Information der Betroffenen und Wahrung der Datensicherheit. Praktisch sollten KI-Tools nur mit anonymisierten oder nicht-personenbezogenen Daten gefüttert werden – oder es muss eine klare Einwilligung vorliegen. Viele Hochschulen untersagen aus Datenschutzgründen, personenbezogene Informationen in externe KI-Systeme einzugeben. Auch bei internen Lösungen ist die Abstimmung mit den Datenschutzbeauftragten Pflicht.
Bei KI-generierten Inhalten und beim Training von KI-Systemen stellen sich urheberrechtliche Fragen. Grundsätzlich gelten die europäischen Urheberrechtsregeln auch für KI-Werke. Das heißt: Texte oder Bilder, die KI erzeugt, dürfen keine geschützten Vorlagen plagiarisch enthalten – andernfalls verletzen Nutzende beim Verwenden dieser KI-Ausgaben eventuell fremde Urheberrechte. Ebenso ist das Training von KI mit urheberrechtlich geschütztem Material problematisch, sofern keine Erlaubnis vorliegt. Hochschulen sollten daher darauf achten, nur solche KI-Dienste einzusetzen, die im Einklang mit geltendem Urheber- und Datenbankrecht stehen. Im Zweifelsfall geben juristische Leitfäden (z.B. vom Bundesjustizministerium) Orientierung zu KI und Urheberrecht.