© Adobe Stock Datei NR.: 275810514 Bildungseinrichtungslizenz von Feodora

Die fortschreitende Entwicklung von KI-Technologien eröffnet Studierenden vielfältige Chancen im Bereich des Lehrens und Lernens, bringt aber auch ethische, soziale und rechtliche Herausforderungen mit sich. In Bezug auf Studium und Lehre an der TU Wien und unter Berücksichtigung eines hochschuldidaktischen Ansatzes wird auf dieser Seite evaluiert, wie generative KI-Systeme verantwortungsvoll eingesetzt werden können. Die Entscheidung, ob Lehrende KI-Systeme in ihren Lehrveranstaltungen einsetzen wollen, liegt bei ihnen. Wenn sie sich dafür entscheiden, müssen klare Richtlinien festgelegt und der Umgang mit diesen Technologien in den Mittelpunkt gestellt werden.

Es liegt in der Verantwortung der Studierenden, die Ergebnisse solcher generativer Systeme kritisch zu hinterfragen, da letztlich der Mensch für die verwendeten Ergebnisse verantwortlich ist.

© Adobe Stock Datei NR.: 618444229 Bildungseinrichtungslizenz von Feodora

Interdisziplinäre Integration: Wenn möglich, sollten die Studierenden die Möglichkeit haben, KI-Themen in ihren Lehrveranstaltungen zu behandeln. Dies kann in verschiedenen Fachbereichen geschehen, da KI in vielen Disziplinen Einzug hält. Ziel ist es, dass die Studierenden die Fähigkeiten und das Wissen erwerben, um KI-Technologien effektiv einsetzen zu können. Dies kann ihnen vielfältige Möglichkeiten in ihrer akademischen und beruflichen Laufbahn eröffnen, da KI in vielen Bereichen als Hilfsmittel oder zum Beispiel als Lernpartner_in eingesetzt werden kann.

Praxisnähe in Ausbildung: Bei der aktiven Nutzung von KI in projektorientierten Aktivitäten können Studierende praktische Erfahrung sammeln und ihre Fähigkeiten zur kreativen Problemlösung weiterentwickeln. 

Ethik und Gesellschaft: Beim Verwenden von KI im Studium muss auch auf ethische und gesellschaftliche Aspekte von KI geachtet werden. Die Sensibilisierung für Verantwortung und die Auswirkungen von KI auf die Gesellschaft ist ein zentraler Punkt, den Studierende beachten müssen.

Bias: Generative KI-Systeme sind niemals frei von Bias, weil sie das Bias der Materialien, mit denen sie trainiert werden, wiedergeben. Dieses Bias kann Individuen, Gruppen von Menschen oder die Gesellschaft als Ganzes schädigen. Im Umgang mit synthetischen Medien ist daher entsprechende Vorsicht geboten. Studierende müssen daher auch in diesem Kontext zu kritischem Denken angeregt werden.

Kollaboratives Lernen: Kollaboratives Lernen und der Austausch von Ideen und Erfahrungen zwischen Studierenden kann gefördert werden. KI’s wie ChatGPT und andere können als Lernpartnerin nützlich sein um kritisches Denken zu fördern, da die Ergebnisse oft fehlerhaft sind.

Datenschutz: Im Zusammenhang mit KI-Systemen (wie auch bei anderen digitalen Systemen) kann Datenschutz ein Thema sein, wenn personenbezogene Daten für das Training der KI herangezogen werden oder die KI zur Auswertung von personenbezogen Daten verwendet wird. Auch für KI Systeme gilt, dass Datenschutzstandards einzuhalten sind, wie etwa die Zweckbindung der personenbezogenen Daten oder datenschutzkonforme Datenübermittlung in ein „Drittland“. Studierenden muss bewusst sein, dass alles, was eingegeben wird, entsprechend auch öffentlich zugänglich gemacht wird.

Transparenz und Erklärbarkeit: Die verwendeten KI-Modelle und -Algorithmen sollten möglichst transparent und erklärbar sein. Hierzu kann auch auf aktuelle Forschungsergebnisse zu unterschiedlichen Systemen hingewiesen werden. Das ist wichtig, um Vertrauen in die Entscheidungen der KI-Systeme zu schaffen und Diskriminierung zu verhindern.

Verantwortungsvolle Forschung: Führen Sie KI-Forschung ethisch und verantwortungsbewusst durch. Berücksichtigen Sie potenzielle Risiken und Auswirkungen auf die Gesellschaft und Umwelt.

Rechte am geistigen Eigentum respektieren: Achten Sie darauf, dass bei der Entwicklung von KI-Systemen geistige Eigentumsrechte respektiert werden. Klären Sie die Rechte an Daten, Modellen und Software im Vorfeld.

Umgang mit KI bei schriftlichen Arbeiten: Da Large Language Models wie ChatGPT ganze schriftliche Arbeiten (beispielsweise Bachelorarbeiten, Seminararbeiten etc.), aber auch Präsentationen erstellen können, ist es wichtig den Prozess der Erstellung solcher Arbeiten in den Fokus zu rücken. ChatGPT und andere Large Language Models müssen als Hilfsmittel dokumentiert und die Stellen, bei denen KI’s eingesetzt wurden, entsprechend markiert werden. Da die Antworten oft fehlerhaft sind, ist es wichtig, dass Studierende die Anwendung lernen.

Insbesondere ist zu dokumentieren, wozu generative KI-Systeme in der Erstellung der Arbeit verwendet wurden und wie sichergestellt wurde, dass die so erzeugten Medien inhaltlich korrekt sind. Es auch sinnvoll im Anhang zu dokumentieren, was daraus gelernt wurde. Für wesentliche Beiträge sind die verwendeten generativen KI-Systeme sowie die Prompts und das Datum der Abfrage anzugeben, mit denen die Medien erzeugt wurden.

Generative Systeme müssen als Hilfsmittel dokumentiert werden und auch die Stellen, an denen KI’s eingesetzt wurden, sind entsprechend zu markieren.

Hier sei auf den Leitfaden zum Umgang mit Plagiaten in studentischen Arbeiten an der TU Wien, öffnet eine Datei in einem neuen Fenster hinzuweisen.

Wenn generative KI-Texte ohne substanzielle Änderungen in eigenen Arbeiten verwendet werden, sollten sie ähnlich wie Zitate aus anderen Quellen behandelt werden. Dies bedeutet, dass eindeutig zu kennzeichnen ist, welche Textpassagen von einem generativen KI-System erstellt wurden.

Zusätzlich zur Kennzeichnung des synthetischen Materials ist eine Quellenangabe erforderlich, die den »Prompt« beinhalten, mit dem das Medium generiert wurde, ein Datum sowie das verwendete System. („Promptbeispiel, 12.09.2023, ChatGPT, Version“)

Akademische Integrität: Studierende müssen lernen, dass jeder Einsatz von generativer KI deutlich und transparent gekennzeichnet sein muss, die verwendeten Prompts offengelegt und Links zu den Ergebnissen angegeben werden müssen. Es ist wichtig zu verstehen, dass die nicht offengelegte Verwendung von generativer KI in einer studentischer Arbeit einem Plagiat gleichkommt.

„Cognitive Bias“: Die sprachliche Flüssigkeit von Systemen wie ChatGPT wirkt Intelligent und Überzeugend und beeinflusst so die Wahrnehmung. Dies gilt auch, wenn die geschriebene Information fehlerhaft ist.

KI und Umwelt: Auf Ebene der Nachhaltigkeit sind Trainings der KI Systeme sehr energieintensiv und entsprechend belastend. Dies gilt sowohl für etablierte Systeme wie ChatGPT als auch für selbst zu trainierende Modelle.

Diskriminierende Algorithmen: Vermeiden Sie die Verwendung von Algorithmen, die aufgrund von Geschlecht, Hautfarbe oder anderen geschützten Merkmalen diskriminierende Ergebnisse liefern könnten.

Unkontrollierte Autonomie: Vermeiden Sie den Einsatz von KI-Systemen mit hoher Autonomie, insbesondere wenn menschliche Aufsicht notwendig ist. Die Verantwortung sollte stets beim Menschen liegen. Jedes mögliche Risiko für den Einzelnen, die Gesellschaft und die Umwelt muss vermieden werden. KI-Systeme, die Menschen sozial oder politisch benachteiligen, ihre Macht über ihr Leben einschränken oder zu Diskriminierung führen, entweder durch das System oder durch die Art und Weise, wie es eingesetzt wird, sind von Natur aus problematisch.

Fehlende Datenschutzmaßnahmen: Stellen Sie sicher, dass angemessene Maßnahmen zum Schutz personenbezogener Daten ergriffen werden. Eine unzureichende Absicherung kann zu Datenschutzverletzungen führen.