K-op-I and paste

In seinen acht Monaten hat ChatGPT schon viele Fans und Hater gesammelt: Für Schüler*innen und Studierende hat der Bot des Unternehmens OpenAI oft die scheinbar perfekte Antwort parat, andere wiederum sehen ihre Privatsphäre gefährdet. Manche Länder, unter anderem Italien, haben Programme mit Künstlicher Intelligenz (KI) sogar vorläufig verboten.

Reinhard Heil, wissenschaftlicher Mitarbeiter am Karlsruher Institut für Technik (KIT), hält das für den falschen Weg: „Verbote halte ich für wenig sinnvoll, gerade, wenn man sie nicht kontrollieren kann.“

Heil leitet am KIT das Projekt „Gesellschaftliches Vertrauen in lernende Systeme“, in dem er sich auch mit den Auswirkungen von Künstlicher Intelligenz (KI) in der Bildung beschäftigt. Er hält es für wichtiger, dass Schüler*innen und Studierende lernen, mit der KI richtig umzugehen und die Möglichkeiten und Grenzen der Programme einzuschätzen. „Vielen Menschen ist nicht bewusst, was diese Tools können und was nicht.“ So zum Beispiel der Unterschied zwischen sogenannten Large Language- und Knowledge-Modellen. Erwarte man Fähigkeiten von ChatGPT, die das Programm gar nicht besitzt, komme es schnell zu Fehlern und falschen Ergebnissen.

Pro-Version als Spielverderberin

Neben der Frage ob richtig oder falsch stellt sich über längere Zeit auch die Frage nach Chancengleichheit. Schon jetzt bieten viele Tools kostenpflichtige Erweiterungen an. Haben Studierende, die sich solche Pro-Versionen nicht leisten können, auf Dauer einen Nachteil bei Prüfungsleistungen? Zum Vergleich: Die kostenlose Version von ChatGPT der Generation 3.5 wurde mit 175 Milliarden Parametern trainiert – die Bezahlversion der vierten Generation mit 100 Billionen. Abhilfe sollen hier die Leitlinien der Hochschulen und Universitäten schaffen.

Heils Vorschlag, um künftig faire und einheitliche Bedingungen zu schaffen: „In Zukunft müssen Aufgaben so gestellt werden, dass diese Programme entweder integriert oder relativ nutzlos sind.“

Seitdem ChatGPT im November 2022 an den Start ging, hat sich viel getan in den Bildungseinrichtungen. Ein großer Handlungsdruck führte laut Heil dazu, dass "fast alle Hochschulen und Universitäten schon Verhaltensregeln auferlegt haben". Hier gebe es nur geringe Unterschiede der aufgestellten Regeln zum Thema KI. Die Universitäten und Hochschulen Baden-Württembergs stehen diesbezüglich in einem regen Austausch. Daher sehe Heil auch den politischen Handlungsbedarf vor allem im Bereich des Datenschutzes und weniger in Vorgaben, die den Bildungsstätten vorschreiben, wie sie mit der KI umzugehen haben.

Die Sache mit dem Datenschutz

Nahezu deckungsgleich sind die Meinungen verschiedener Datenschutzexpert*innen zur Thematik ChatGPT. Nach jetzigem Stand unterliegt das KI-Modell des Unternehmens OpenAI einer datenschutzrechtlichen Prüfung deutscher Aufsichtsbehörden. Konkret heißt das: "Prinzipiell ist es im Moment nicht erlaubt, mit ChatGPT im Unterricht zu arbeiten beziehungsweise Studierende zur Nutzung zu verpflichten", wie Heil bestätigt. Daher empfehlen Expert*innen zum jetzigen Zeitpunkt, dem Chatbot keine persönlichen Daten preiszugeben. 

Was sagt die Landesregierung?

Neben Bildungseinrichtungen befasst sich natürlich auch die Politik mit der Frage, wie sich KI in das Bildungswesen einfügen könnte. Welche Chancen und Risiken das mit sich bringt, darüber sprechen wir unter anderem mit Sandra Boser, Staatssekretärin des Landeskultusministeriums Baden-Württemberg, in unserem Podcast.

Welche Rolle KI zukünftig in der Bildungspolitik spielen wird? Fragen wir doch einfach nochmal ChatGPT! „Als KI-Modell kann ich potenziell eine unterstützende Rolle in der Zukunft der Bildungspolitik spielen. Ich kann Bildungsexperten, Pädagogen und politischen Entscheidungsträgern Informationen und Ressourcen bereitstellen, um sie bei ihrer Arbeit zu unterstützen. […] Allerdings ist es wichtig, zu beachten, dass ich als KI-Modell eine technische Lösung bin und nicht in der Lage bin, menschliche Interaktion, Empathie oder kritisches Urteilsvermögen zu ersetzen.“