Wir sollten den neuen textgenerierenden KI nicht mit Furcht begegnen, sondern einen souveränen Umgang mit ihr finden.
DIE AUTORIN UND DER AUTOR
Martina Baravalle(*1975 in Eisenstadt) ist Juristin und Mediatorin.
Karl-Gerhard Straßl (*1969 in Wien) ist Jurist, Organist und Kulturmanager.
Gemeinsam leiten sie das Kompetenzzentrum für Akademische Integrität an der Universität für Musik und darstellende Kunst Wien (www.mdw.ac.at/aki) und beschäftigen sich seit Jahren mit relevanten Entwicklungen im Hinblick auf die gute wissenschaftliche Praxis.
Textgenerierende künstliche Intelligenz (KI) gibt es schon länger, als vielen von uns bewusst ist. Das Auftreten von Chat GPT Ende 2022 katapultierte diese Thematik aber in neue Sphären. Plötzlich wurden textliche Leistungen der KI bekannt, die Bewunderung und Bestürzung zugleich hervorriefen. Die ersten Reaktionen schwankten von Verleugnung über verzweifelt anmutende Abwehrhaltungen bis hin zu offiziellen Verboten an (auch namhaften) akademischen Institutionen. Unausgesprochen regierte die Angst, dass eine Maschine den menschlichen Geist bei der Textgenerierung überflügelt hätte.
Bei der Beschäftigung mit textgenerierenden KI bringt ein genauerer Blick auf die tatsächliche Leistungsfähigkeit der Algorithmen interessante Erkenntnisse. Chat GPT ist dabei nur eines von vielen der größer werdenden Angebote und zeigt typische Merkmale solcher Programme: Es handelt sich nicht um Wissen erzeugende Programme, sondern um – zugegebenermaßen beeindruckende Ergebnisse erzielende – Wahrscheinlichkeitsberechnungen zur Zusammensetzung von Wortteilen. Aktuelle Entwicklungen werden jedoch textlich nicht abgebildet, da der Wortspeicher den Wissensstand von vor rund einem Jahr als Grundlage aufweist. Aufgrund der mathematisch berechneten Zusammensetzung von Wortteilen können fundierte Aussagen produziert werden – genauso wie inhaltlich falsche Formulierungen. Allerdings, wie Erich Prem, Philosoph und Informationswissenschaftler, treffend formulierte: „Die Systeme verstehen nicht, sie ,wissen‘ nicht, sie wissen auch nicht, was sie wissen.“ („Opernring Zwei“, Magazin der Wiener Staatsoper GmbH, April 2023, S. 34.)
Der Wortspeicher der KI beinhaltet dabei nicht nur Daten und Fakten, sondern auch dahinterstehende Voreingenommenheiten (sog. Biases). Dadurch kann die KI in Sekundenschnelle zwar wortgewandte, aber ethisch problematische Formulierungen produzieren. Die Versuche, die KI mit relevanten Quellen zu versorgen, um die Richtigkeit des Outputs zu erhöhen, sind auch ein Spiel mit dem Feuer, da geschützte Inhalte unter Verletzung der Urheber- und Persönlichkeitsrechte zur Verarbeitung freigegeben werden könnten.
Die KI kann äußerst hilfreich sein, etwa als Inspirationsquelle, zum Einstieg in den Forschungsstand einer bestimmten Materie, zur Überprüfung der eigenen Argumentation oder zur sprachlichen Verbindung verschiedener Aspekte. Aber so groß die Verlockung der KI als faszinierende Formulierungshilfe ist, so kritisch sollte ihr begegnet werden. Trotz der enormen Arbeitserleichterung beim eigenen Formulieren kann die KI nur ein Hilfsmittel bleiben, dem nicht die gesamte Arbeit überlassen werden sollte. Denn es darf nicht vergessen werden, dass die Autorin, der Autor den Text zu verantworten hat. Wir brauchen digitale Souveränität im Umgang mit KI.
Prüfungskultur im Umbruch
Im Bildungsbereich ist die Thematik um eine Facette reicher, da hier die Entwicklung der akademischen Schreibkompetenz und somit eine wesentliche Grundlage für die Wissenschaft verortet ist. Obwohl Textkorrektur- und Übersetzungsprogramme fast zum Alltag an Universitäten und Hochschulen gehören, wurden anfangs Tools zum Paraphrasieren und Umschreiben von Texten noch stirnrunzelnd beäugt und die Qualität dieser Texte milde belächelt. Mittlerweile ist es Common Sense, dass spätestens mit verbesserten Versionen von textgenerierenden Tools wie Chat GPT die Schreib- und Prüfungskultur im Umbruch ist. Diabolisch ist der Gedanke, dass als angenehmer Nebeneffekt den sogenannten Essay Mills bzw. Paper Mills – also Unternehmen, die für andere Abschlussarbeiten schreiben – nun damit das Wasser abgegraben wird.
Von Mitte Februar bis Mitte März 2023 wurde eine Umfrage unter 176 Expert:innen durchgeführt, die in der Vermittlung der wissenschaftlichen Praxis an Unis und Hochschulen in Österreich, Deutschland und der Schweiz tätig sind, von den für akademische Integrität zuständigen Kompetenzstellen an der Universität für Musik und darstellende Kunst Wien und an der Johannes-Gutenberg-Universität Mainz. Die Ergebnisse zeigen, dass mehrheitlich die Meinung besteht, KI-Lösungen für wissenschaftliche Texte und Texte im akademischen Umfeld sollten erlaubt sein. Im Hinblick auf schriftliche Arbeiten im Studium sollten aber die Voraussetzungen für die Verwendung klar kommuniziert werden – von der Einführung in die Tools über deren Besprechung in Lehrveranstaltungen bis hin zu entsprechender Kennzeichnung von Umfang und Art der Verwendung.
Abgesehen von urheber-, datenschutz- und strafrechtlichen Fragen, die sich bei der Verwendung dieser Produkte stellen, muss dringend geregelt werden, dass eine entsprechende Kennzeichnung bei Verwendung der Tools Pflicht ist und nur dann der Gebrauch den Standards der guten wissenschaftlichen Praxis entspricht. Unrealistisch ist es jedenfalls zu glauben, dass ein Verbot dem Spuk ein Ende setzt. Die Software hat längst in den Wohnzimmern unserer Studierenden (und Lehrenden) Einzug gehalten.
Rules for Tools
Mittlerweile herrscht im Bildungssektor Einigkeit darüber, dass es einerseits eine kurzfristige Herangehensweise an die Thematik geben muss, aber auch eine langfristige Strategie, um der (Weiter-)Entwicklung von KI auf Augenhöhe zu begegnen. Von zentraler Bedeutung muss die Einnahme einer Haltung der Bildungseinrichtungen zur Verwendung sein, die sie klar an Studierende, Lehrende, Forschende und Künstler:innen kommunizieren, weiters braucht es die Entwicklung von Regelungen, die Überprüfung von bestehenden Rahmenbedingungen, die Setzung klarer Grenzen und Sanktionierung von Verstößen. Längerfristig wird über die Änderung der Prüfungskultur und Prüfungsformen bzw. der Art des Schreibens von Texten im akademischen Umfeld diskutiert, der Umgang mit KI-Tools laufend gelehrt und hinterfragt werden müssen.
Die vielfach herbeigeschriebene und inflationär verwendete „disruptive Kraft der KI“ erschließt sich uns zwar nicht, allerdings kann davon ausgegangen werden, dass die Leistung der KI einen Umbruch für den Menschen darstellt, vergleichbar mit der Erfindung des Buchdrucks und des Taschenrechners – und zwar gleichzeitig. Es ist dringend geboten, kritisch darüber nachzudenken, wie die Arbeit damit unser Denken verändert. Es macht eben einen weitreichenden Unterschied, ob man sich Gedanken zu einem Thema oder Gedanken über einen bereits vorhandenen Text zu einem Thema macht.
E-Mails an:debatte@diepresse.com
Gastkommentare und Beiträge von externen Autoren müssen nicht der Meinung der Redaktion entsprechen.
("Die Presse", Print-Ausgabe, 05.05.2023)