KI-Governance bezeichnet den organisatorischen und regelnden Rahmen für einen verantwortungsvollen Einsatz Künstlicher Intelligenz an der Jade Hochschule. Dazu gehören insbesondere Zuständigkeiten, Leitlinien, Freigabeprozesse und Regelungen zur Nutzung von KI-Diensten.

Die KI-Governance soll dazu beitragen,

• Künstliche Intelligenz verantwortungsvoll und transparent einzusetzen,
• Datenschutz und Informationssicherheit zu gewährleisten,
• rechtliche und ethische Anforderungen zu berücksichtigen,
• Zuständigkeiten und Entscheidungswege nachvollziehbar festzulegen,
• Hochschulangehörige bei der sicheren Nutzung von KI zu unterstützen und
• Qualität, Chancengleichheit und akademische Integrität zu fördern.

Bei der Nutzung von KI-Systemen sollen insbesondere folgende Grundsätze beachtet werden:

• Verantwortung: Die Verantwortung für Arbeitsergebnisse verbleibt bei den Nutzenden.
• Transparenz: Der Einsatz von KI soll kenntlich gemacht werden, wenn dies erforderlich ist.
• Überprüfung: KI-generierte Inhalte müssen fachlich und kritisch geprüft werden.
• Datenschutz: Personenbezogene und vertrauliche Daten dürfen nur in dafür freigegebenen Diensten verarbeitet werden.
• Informationssicherheit: Schutzbedarfe und Sicherheitsvorgaben sind zu berücksichtigen.
• Fairness: Diskriminierende oder verzerrte Ergebnisse müssen erkannt und vermieden werden.
• Akademische Integrität: Die Nutzung von KI darf nicht zur Täuschung oder Verschleierung eigener Leistungen führen.
• Nachhaltigkeit: Ressourcenverbrauch und Verhältnismäßigkeit des KI-Einsatzes sollen berücksichtigt werden.

Die Regelungen können folgende Bereiche betreffen:

• Studium und Prüfungen
• Lehre und Lehrmaterialien
• Forschung und wissenschaftliches Arbeiten
• Hochschulverwaltung
• Öffentlichkeitsarbeit und Kommunikation
• Verarbeitung personenbezogener oder vertraulicher Informationen
• Beschaffung und Einführung neuer KI-Dienste

Vor der Einführung oder dienstlichen Nutzung eines neuen KI-Dienstes können unter anderem folgende Aspekte zu prüfen sein:

1. Zweck und Erforderlichkeit
2. Zielgruppe und Einsatzbereich
3. Datenschutz und Datenverarbeitung
4. Informationssicherheit
5. Vertrags- und Lizenzbedingungen
6. Urheber- und Nutzungsrechte
7. Barrierefreiheit
8. Qualität und Nachvollziehbarkeit der Ergebnisse
9. Kosten und technische Integration
10. Schulungs- und Unterstützungsbedarf

• KI-Leitlinie ergänzen
• Datenschutzregelungen ergänzen
• Regelungen für Studium und Prüfungen ergänzen
• Vorgaben zur Informationssicherheit ergänzen
• Kennzeichnungsempfehlungen ergänzen