In publica commoda

UMGANG MIT KI-MODELLEN WIE CHATGPT

Handlungsempfehlung für Lehrende

Allgemeine Einschätzung

ChatGPT ist eine besonders populäre Version eines KI-basierten Chatbots. Der Dienst ist unter https://chat.openai.com/chat verfügbar. Für den Hochschulkontext ist besonders bedeutsam, dass der Dienst im Frage-Antwort-Modus Texte in qualitativ hochwertiger Art und Weise generieren kann. Dies gilt auch z. B. für die Generierung von Quelltexten von Programmen durch KI-basierte Chatbots. Die im Folgenden dargestellten Empfehlungen gelten daher explizit sowohl für klassische Texte als auch Programmtext. Wir nutzen ChatGPT hier als Beispiel für die sich rasch entwickelnde Gruppe von (Text- und Bild-)KI-Modellen, die in naher Zukunft Grundlage vieler unterschiedlicher Programme und Services sein werden. Man kann ChatGPT z. B. wie folgt fragen, sich selbst vorzustellen:

Was ist ChatGPT, allgemeinverständlich erklärt?

ChatGPT ist ein KI-gestütztes Textsystem, das von OpenAI entwickelt wurde. "KI" steht für Künstliche Intelligenz, also Computerprogramme, die menschliche Fähigkeiten, wie das Verstehen und Verarbeiten von Sprache, besitzen. ChatGPT steht für "Conversational Generative Pre-trained Transformer" und ist ein Modell, das darauf spezialisiert ist, menschenähnliche Unterhaltungen zu generieren.
Das Modell wurde mithilfe von maschinellem Lernen und große Mengen an Text aus dem Internet trainiert. Dabei hat es gelernt, Muster in der Sprache zu erkennen, um auf Benutzeranfragen passende Antworten zu generieren. ChatGPT kann eine Vielzahl von Themen und Aufgaben bewältigen, wie zum Beispiel Fragen beantworten, texte übersetzen, Vorschläge machen oder kreative Geschichten erzählen.

Die Fähigkeiten von ChatGPT sind so mächtig, dass es Stand Ende März 2023 viele Fragen aus typischen Bachelor-Prüfungen schon mindestens auf dem Leistungsstand durchschnittlicher Studierender “beantworten” kann. Die von ChatGPT generierten Texte sind denen von Menschen geschriebenen so ähnlich, dass der Einsatz derzeit kaum durch automatisierte Identifizierung z. B. mittels Plagiatssoftware erkannt werden kann. Auch für Leser*innen ist schon heute eine Unterscheidung schwer und wird in absehbarer Zeit vermutlich nahezu unmöglich sein.

ChatGPT wird deshalb das Lernen und Lehren verändern. ChatGPT hat zudem Auswirkungen darauf, welche Kompetenzen im späteren Berufsleben benötigt werden. ChatGPT gibt allerdings keine Garantie, dass die vom System generierten Texte stimmen. Im Gegenteil, das System lernt auch aus eingegebenen Falschinformationen und verbreitet diese weiter. So wird auch völlig Falsches und frei Erfundenes wird überzeugend präsentiert:

Warum heißt der "Blaue Turm" in Göttingen Blauer Turm

Der Blaue Turm in Göttingen ist so genannt, weil er eine blaue Fassade hat. Die Farbe der Fassade wurde im 18. Jahrhundert aufgetragen, als der Turm renoviert wurde. Der Turm ist ein bedeutendes historische Gebäude in Göttingen und gehört zu den bekanntesten Sehenswürdigkeiten der Stadt. Er befindet sich in der Nähe des Alten Rathauses und diente früher als Wehrturm der Stadtmauer. heute beherbergt er das Museum für Kunst und Kulturgeschichte.

Im akademischen Kontext zusätzlich relevant ist, dass ChatGPT nicht nur Fakten, sondern auch Quellen “erfindet” und in gleicher Form wie existierende Quellen präsentiert. Es können also von Chat-GPT aufgelistete Literaturstellen mit sämtlichen Quellenangaben wie Initialen der Autoren, Zeitschrift, Jahrgang, Seitenzahlen etc. frei erfunden sein. Es liegt daher in der besonderen Verantwortung der Nutzenden, wie die von ChatGPT generierten Texte verwendet werden.

Die Leistungsfähigkeit von GPT 4, Bard, Claude und ähnlichen Sprachmodellen nimmt rasch zu und das umfangreiche Feedback zu diesen KI-Modellen wird diesen Prozess weiter unterstützen. Im Moment ist noch nicht klar, wie weit die Möglichkeiten von ChatGPT und vergleichbaren Systemen reichen werden. Eine Strategie zum Umgang mit KI gestützten Systemen darf daher nicht auf bestehende Lücken des gegenwärtigen Systems bauen, sondern muss dazu eine grundsätzliche Position beziehen. Die im Zuge des Umgangs mit Wikipedia zu beobachtende Entwicklung hat zudem gezeigt, dass eine Nutzung solcher Systeme weder verhindert, noch verboten werden kann. Im Gegenteil, die Universität Göttingen versteht ChatGPT deshalb als Werkzeug, das benutzt wird, und für dessen intelligente Nutzung Studierende und Lehrende Kompetenzen erwerben müssen. Voraussetzung dafür ist ein transparenter Umgang: Alle Beteiligten müssen offenlegen, in welchem Umfang ChatGPT genutzt wurde.

Handlungsempfehlungen

Die nachfolgenden Handlungsempfehlungen können auf Grund der rasanten Weiterentwicklung nur vorläufiger Natur sein. ChatGPT steht dabei als Synonym für vergleichbare Systeme, die in nächster Zeit verfügbar sein werden. Sprach-KI-Modelle werden über kurz oder lang in vielen gesellschaftlichen Bereichen von großem Einfluss sein weshalb es für uns als Universität unabdingbar ist, uns mit Chancen und Risiken wiederholt auseinanderzusetzen.


Prüfungen

Bei Prüfungen, die ohne Aufsicht abgelegt werden (z. B. Hausarbeiten, Essays), haben Studierende Zugang zu ChatGPT oder ähnlichen KI-Textmodellen. ChatGPT zu verbieten, ist nicht nur wegen der fehlenden Kontrollmöglichkeit nicht ratsam. Es wäre auch nicht zielführend, da eine sinnvolle Nutzung solcher Werkzeuge für das spätere Berufsleben wichtig sein wird und der fachgerechte Umgang deshalb auch Teil der Prüfung sein sollte. Gleichzeitig muss sichergestellt werden, dass es sich um eine eigenständig erbrachte Prüfungsleistung handelt. Grundsätzlich sollte für jede Veranstaltung bzw. jedes Modul eine kritische Analyse der Prüfungsformen durchgeführt werden.
Vor diesem Hintergrund werden folgende Empfehlungen gegeben:

  • In Prüfungen unter Aufsicht (z. B. Klausuren und mündliche Prüfungen) ist der Einsatz von Werkzeugen wie ChatGPT nicht zulässig, außer es wird explizit erlaubt. Eine Nutzung in Toilettenpausen o.ä. wäre ein Täuschungsversuch. In einigen Fällen kann es sinnvoll sein, statt Texten, die zuhause verfasst werden, z. B. den E-Prüfungsraum für die Prüfungen zu nutzen, bei denen mit einer bestimmten Zeitvorgabe ein Text geliefert werden muss.
  • In Prüfungen ohne Aufsicht sollte Folgendes gelten:
    1. ChatGPT sollte in Prüfungen ohne Aufsicht grundsätzlich ein zulässiges Hilfsmittel sein, auch weil nicht kontrolliert werden kann, ob eine Nicht-Zulassung eingehalten würde.
    2. Die Zulässigkeit von ChatGPT als Hilfsmittel endet da, wo Teile der abgegebenen Leistung von ChatGPT stammen und nicht als solche transparent gemacht werden. Dies ist gleichzusetzen mit einem Täuschungsversuch.
    3. Der Einsatz von ChatGPT muss also vollständig transparent erfolgen. Eine explizite Kennzeichnung von mit ChatGPT erzeugten Passagen ist erforderlich. Studierende sollten zudem erklären, in welcher Art und Weise ChatGPT für die Erstellung der Prüfungsleistung genutzt wurde. Eine Beispielvorlage befindet sich im Anhang.
    4. Eine solche vollständig transparente Nutzung von ChatGPT soll weder positive noch negative Auswirkungen auf die Bewertung der Prüfungsleistung haben.
    5. Prüfende sollten Fragestellungen so anpassen, dass die Eigenständigkeit einer Prüfungsleistung auch dann nachvollzogen werden kann. Mögliche Frageformen können z. B. sein: Textvergleiche, empirische Studien, … (siehe z. B. hier https://www.wiso-elearning.uni-hamburg.de/blog/erste-praktische-ideen-zum-umgang-mit-chatgpt-in-lehre-und-pruefung/ unter “weitere Tipps und Möglichkeiten”).
    6. Die Art und Weise der eigenständigen Leistung ändert sich bei Nutzung von ChatGPT. Beispielsweise können auf Basis der in der Veranstaltung erworbenen Kompetenzen Textpassagen im Frage-Antwort-Dialog mit ChatGPT entwickelt, bewertet und mit Quellen verknüpft werden. Es spricht nicht per se gegen eine eigenständige Leistung, wenn auf diese Weise entwickelte Textbausteine nach erfolgter Verknüpfung mit den zuvor identifizierten Quellen in das als Prüfungsleistung abgelieferte Ergebnis übernommen werden.

Alle Studienkommissionen / Studiendekan*innen sollten sich zu Beginn des Sommersemesters 2023 gemeinsam mit den Lehrenden mit den hier skizzierten Empfehlungen zu ChatGPT und den Auswirkungen auf Lehre und Prüfungen beschäftigen. Ein besonderes Augenmerk soll dabei auch auf den Prüfungsformaten und auf der Gestaltung von Prüfungen liegen.

Im Laufe des Sommersemesters sollen Regelungen für die Allgemeine Prüfungsordnung (APO) erarbeitet werden, die u.a. folgende Fragen klären:

  • die Möglichkeit von Anpassungen der Prüfungsformen, z. B. Kombination von Hausarbeiten mit mündlichen Prüfungen,
  • wie beim Verdacht auf Täuschung vorgegangen werden kann.
Dies soll bei Bedarf durch die Studien- bzw. Prüfungskommissionen im Bereich ihrer Zuständigkeiten mit fachspezifischen Regelungen ergänzt werden.

Anlage: Erklärung zur Nutzung von ChatGPT und vergleichbaren Werkzeugen im Rahmen von Prüfungen In der hier vorliegenden Arbeit habe ich ChatGPT oder eine andere KI wie folgt genutzt:
[ ] gar nicht
[ ] bei der Ideenfindung
[ ] bei der Erstellung der Gliederung
[ ] zum Erstellen einzelner Passagen, insgesamt im Umfang von …% am gesamten Text
[ ] zur Entwicklung von Software-Quelltexten
[ ] zur Optimierung oder Umstrukturierung von Software-Quelltexten
[ ] zum Korrekturlesen oder Optimieren
[ ] Weiteres, nämlich: …
Ich versichere, alle Nutzungen vollständig angegeben zu haben. Fehlende oder fehlerhafte Angaben werden als Täuschungsversuch gewertet.  


Lehre

Ein intelligenter Einsatz von KI-Systemen bietet Chancen, aber auch einige Risiken für die universitäre Lehre. Wesentliches Ziel beim Umgang mit ChatGPT und anderen KI-Systemen sollte der Erwerb von Kompetenzen der Anwender*innen sein. Hierzu gehören z. B.

  • das Erkennen der Zusammenhänge zwischen der Formulierung einer Frage und der Antwort von ChatGPT und daraus abgeleitet die Kompetenz, eine Frage im Hinblick auf die gewünschte Detailtiefe einer Antwort zu optimieren.
  • die Kompetenz zum Erkennen von Grenzen, Relevanz und Implikationen (Werte) der Antworten, die KI-Systeme auf Fragestellungen geben.
  • ein Verständnis davon, wie KI-Systeme im Allgemeinen (ChatGPT im Besonderen) funktionieren, welche gesellschaftlichen biases in den Trainingsdaten enthalten sind/ sein können und durch KI reproduziert werden und wie dem in Forschung und Lehre begegnet werden kann.

Der Aufbau einer Kompetenz für den kritischen und verantwortungsvollen Umgang mit KI-Systemen muss ein integraler Teil der Lehre an unserer Universität werden. Kompetenzorientierung ist seit langem ein für die Hochschullehre wichtiger Aspekt, der beim Umgang mit KI-Systemen eine besondere Beachtung verlangt.

Diesem Ziel dienen die folgenden Empfehlungen für den Umgang mit ChatGPT in der Lehre:

  1. Konsequente Transparenzkultur: Die Nutzung von ChatGPT sollte von Lehrenden und Studierenden offen kommuniziert werden.
  2. Integration von ChatGPT in die Lehre: ChatGPT kann je nach Fach auf sehr unterschiedliche Weise in den Lehr- und Lernprozess eingebaut werden. Unterschiedliche Ansätze hierfür können über Good-Practice-Beispiele über Fachbereichsgrenzen ausgetauscht werden.
    Beispiele für Studierende (ab S. 18) und Lehrende (ab S. 28) hierzu finden sich unter: Unlocking the Power of Generative AI Models and Systems such as GPT-4 and ChatGPT for Higher Education: A Guide for Students and Lecturers (uni-hohenheim.de)
  3. In Fächern, in denen die Produktion eigener Texte, Bilder oder Musik wesentliches Ziel ist, sollten die KI-Systeme als zukunftsorientiertes Werkzeug in den Entstehungsprozess aktiv integriert und dialogisch begleitet werden. Eine Abkehr vom schriftlichen Arbeiten ist nicht sinnvoll.
  4. Wenn die Erstellung eigener Texte etc. mehr Medium als wesentliches Lernziel ist, kann die Unterstützung durch KI bei der Textgenerierung Raum schaffen, damit Studierende sich verstärkt auf andere Lernziele wie die Bewertungskompetenz fokussieren können.
  5. Die vorhandenen KI-Systeme haben zudem die Selbstverantwortung der Lernenden für ihren eigenen Erfolg merklich erhöht. Dies kann zum Beispiel dadurch unterstützt werden, dass Lehrende Möglichkeiten zur regelmäßigen freiwilligen Lernstandskontrolle (ohne KI) schaffen.

Um die Umsetzung dieser Empfehlungen zu unterstützen, wird geprüft inwieweit, eventuell im Rahmen von Hochschule Digital Niedersachsen geeignetes Material für Weiterbildung und Beratung erarbeitet und bereitgestellt werden kann.


Curriculare Weiterentwicklungen

Neben der Integration von KI-Systemen wie ChatGPT in die einzelnen Lehrveranstaltungen ist es sinnvoll, diese Entwicklungen auch curricular aufzugreifen. Dabei wird eine Erhöhung folgender Kompetenzen als wichtig angesehen

  • Medien- und IT-Kompetenzen
  • Sprach- und Textkompetenzen
  • Beurteilungs-, Bewertungs- und Reflexionskompetenzen
  • Methodenkompetenz (Wissenschaftliches Arbeiten) und Praktiken guter wissenschaftlicher Praxis

Weiteres Vorgehen

Diese Empfehlungen stellen das Ergebnis eines Workshops des ThinkTank Digitalisierung in der Lehre und der darauffolgenden Diskussion in der zKLS dar. Sie sollen als Grundlage für die weiteren Diskussionen in den zentralen Gremien, aber vor allem auch auf Ebene der Fächer dienen.

Der ThinkTank wird konkretisierte Vorlagen zu offenen Punkten (technische Weiterentwicklung, Recht, Plagiat, Einbau in die Prüfungsordnungen etc.) erarbeiten. Darüber hinaus müssen Fragestellungen des barrierefreien und chancengleichen Zugangs zu den, in der Regel kommerziellen, KI-Systemen thematisiert und diskutiert werden, ebenso Fragen des Datenschutzes.

Lehrende und Studierende werden im Sommersemester 2023 Erfahrungen mit der Nutzung von ChatGPT als Werkzeug für Lehre und Prüfungen ohne Aufsicht sammeln.

Als Fortschreibung der hier vorliegenden Empfehlungen werden spätestens zum Ende des Sommersemesters auf dieser Basis konkretisierte Empfehlungen für Lehrende zu “ChatGPT in der Lehre” und “ChatGPT bei Prüfungen” sowie Empfehlungen für Studierende angestrebt. Auch diese können aber nur einen Zwischenstand beschreiben und werden ihren vorläufigen Charakter behalten.

Insgesamt zielen die Empfehlungen darauf ab, Wege zu finden, um ChatGPT in akademischen Kontexten zu integrieren. Gleichzeitig soll sichergestellt werden, dass KI-Systeme verantwortungsbewusst und mit Blick auf die diesen Systemen innewohnenden Potentialen eingesetzt werden.


Linkliste