Einleitung: Der schmale Grat zwischen technischer Faszination und wissenschaftlicher Strenge
Seit der breiten Verfügbarkeit generativer Sprachmodelle (Large Language Models, kurz LLMs) wie ChatGPT hat sich die akademische Schreib- und Recherchepraxis grundlegend gewandelt.
In der akademischen Gemeinschaft herrscht hingegen weitgehender Konsens darüber, dass ChatGPT und vergleichbare KI-Systeme als Beleg für fachliche Aussagen, Theorien oder empirische Fakten nicht zitierwürdig sind.
1. Begriffliche Schärfung: Zitierfähigkeit versus Zitierwürdigkeit
Bevor die spezifischen Defizite von ChatGPT im Detail beleuchtet werden, ist eine klassische methodische Differenzierung aus der Wissenschaftspropädeutik erforderlich: die Trennung zwischen Zitierfähigkeit und Zitierwürdigkeit.
Zitierfähigkeit (formales Kriterium): Eine Quelle gilt grundsätzlich als zitierfähig, wenn sie veröffentlicht, dauerhaft zugänglich und für Dritte eindeutig auffindbar sowie überprüfbar ist. Im engeren Sinne bedeutet dies, dass jede Leserin und jeder Leser einer wissenschaftlichen Arbeit die Möglichkeit haben muss, die angeführte Textstelle im Original einzusehen, um die Korrektheit der Wiedergabe und den Kontext zu kontrollieren. Bereits auf dieser formalen Ebene stößt ChatGPT an strukturelle Grenzen, da jede Dialogsitzung dynamisch generiert wird und nicht über ein stabiles, öffentlich archiviertes Verzeichnis abrufbar ist.
Zitierwürdigkeit (inhaltlich-qualitatives Kriterium): Selbst wenn eine Quelle formal zugänglich ist – wie etwa ein privater Blogeintrag, ein Boulevardartikel oder ein unmoderierter Forenbeitrag –, ist sie noch lange nicht zitierwürdig.
Zitierwürdigkeit setzt voraus, dass die Quelle den Qualitätsstandards der jeweiligen Fachdisziplin genügt. Dazu gehören fachliche Expertise der Autorinnen und Autoren, methodische Nachvollziehbarkeit, Objektivität sowie im Idealfall eine Qualitätssicherung durch Fachgutachten (Peer-Review).
Während Standardwerke der Zitierpraxis wie APA (7th Edition) oder MLA inzwischen formale Richtlinien entwickelt haben, wie KI-Ausgaben im Text und im Literaturverzeichnis nachgewiesen werden können, darf diese formale Regelung nicht als Freibrief missverstanden werden.
2. Das epistemologische Grundproblem: Wahrscheinlichkeit statt Wahrheit
Der tiefste Grund für die fehlende Zitierwürdigkeit von ChatGPT liegt in seiner Architektur. Ein Large Language Model ist keine Wissensdatenbank, kein Lexikon und keine Suchmaschine, die verifizierte Fakten aus einem kuratierten Index abruft.
Wenn ChatGPT eine Frage beantwortet, sucht das Modell nicht nach der „Wahrheit“ im erkenntnistheoretischen Sinne. Es berechnet stattdessen Token für Token, welches nächste Wort im Kontext der bisherigen Eingabe (des Prompts) und des bereits generierten Textes statistisch am wahrscheinlichsten ist. Dieses Prinzip hat weitreichende Konsequenzen für die wissenschaftliche Verlässlichkeit:
Fehlende semantische Weltverankerung: Das Modell besitzt kein echtes Verständnis der Konzepte, über die es schreibt.
Es operiert rein auf der Ebene sprachlicher Muster und Korrelationen. Ob eine Aussage in der physischen oder sozialen Realität zutrifft, spielt für den Generierungsprozess keine primäre Rolle, solange die sprachliche Oberfläche kohärent erscheint. Kein integrierter Faktencheck-Mechanismus:
Im Gegensatz zu einer wissenschaftlichen Redaktion oder einer kuratierten Enzyklopädie verfügt das Sprachmodell über keinen internen Wahrheitsfilter. Plausibilität ersetzt Evidenz. Da wissenschaftliche Texte im Trainingskorpus typischerweise in einem bestimmten sachlichen, autoritativen Tonfall verfasst sind, imitiert ChatGPT exakt diesen akademischen Duktus – unabhängig davon, ob der Inhalt faktisch korrekt ist oder nicht.
In der Wissenschaft hingegen ist eine Aussage nur so viel wert wie ihre empirische oder logische Begründung. Ein Text, der lediglich auf stochastischer Textfortsetzung beruht, entzieht sich der wissenschaftlichen Beweispflicht.
3. Das Phänomen der „Halluzinationen“ und fabrizierter Quellen
Aus der rein probabilistischen Arbeitsweise resultiert ein Phänomen, das in der KI-Forschung als Halluzinieren (oder präziser: Konfabulieren) bezeichnet wird.
Besonders gravierend wirkt sich dies bei der Suche nach Fachliteratur aus.
Es kombiniert real existierende, renommierte Autorinnen und Autoren eines Fachgebiets mit plausibel klingenden englischen oder deutschen Aufsatztiteln, die jedoch nie verfasst wurden.
Es ordnet diese fiktiven Titel realen Fachzeitschriften zu, ergänzt scheinbar präzise Jahreszahlen, Band- und Seitenzahlen sowie formatgerechte DOI-Nummern (Digital Object Identifiers).
Bei einer Überprüfung in Datenbanken wie Web of Science, Scopus, PubMed oder Google Scholar stellt sich jedoch heraus, dass diese Publikationen schlicht nicht existieren oder die angegebene DOI auf eine völlig themenfremde Arbeit verweist.
Für die wissenschaftliche Praxis ist dieses Verhalten verheerend. Wer sich auf ChatGPT als Quelle beruft oder ungeprüft von der KI vorgeschlagene Referenzen übernimmt, läuft Gefahr, seine gesamte Argumentation auf Phantomquellen aufzubauen.
4. Fehlende Autorschaft, Verantwortung und Intransparenz der Trainingsdaten
Ein weiteres zentrales Kriterium der Zitierwürdigkeit ist die Zurechenbarkeit von Verantwortung.
ChatGPT hingegen ist kein Autor im rechtlichen oder wissenschaftlichen Sinne, sondern ein technisches Werkzeug ohne Bewusstsein, ohne Intention und ohne moralische oder rechtliche Haftung.
Hinzu kommt die Intransparenz der Datenbasis. Die Trainingsdaten kommerzieller Sprachmodelle umfassen riesige Mengen an Texten aus dem Internet, digitalisierten Büchern, Nachrichtenartikeln und Foren. Dabei findet für den Endnutzer keine erkennbare Gewichtung nach wissenschaftlicher Güte statt: Ein hochkarätiger, begutachteter Fachartikel aus Nature oder der Historischen Zeitschrift fließt ebenso in das statistische Modell ein wie ein fehlerhafter Wikipedia-Abschnitt, ein veraltetes Lehrbuch oder ein ideologisch gefärbter Meinungsbeitrag. Da das System beim Generieren einer Antwort nicht offenlegt, aus welchen spezifischen Primär- oder Sekundärquellen sich eine Aussage speist, ist eine kritische Quellenkritik – das Fundament jeder Geistes-, Sozial- und Naturwissenschaft – unmöglich.
5. Mangelnde Reproduzierbarkeit und fehlende Persistenz
Wissenschaftliche Erkenntnisprozesse basieren auf dem Prinzip der Reproduzierbarkeit. Wenn Forschende auf eine bestimmte Textstelle in einer Monographie (z. B. Kant, Kritik der reinen Vernunft, B 75) oder auf einen Datensatz verweisen, bleibt diese Referenz über Jahrzehnte hinweg stabil. Jede Person, die dieselbe Ausgabe aufschlägt, findet exakt denselben Wortlaut vor.
Die Ausgaben von ChatGPT hingegen sind fundamental nicht-deterministisch und nicht-persistent:
Stochastische Varianz: Aufgrund technischer Parameter wie der sogenannten „Temperature“ (einem Wert, der die Zufälligkeit bei der Auswahl des nächsten Tokens steuert) erzeugt derselbe Prompt bei mehrfacher Eingabe unterschiedliche Formulierungen, Schwerpunktsetzungen oder sogar widersprüchliche inhaltliche Aussagen.
Modell-Updates und Drift: Sprachmodelle werden von ihren Anbietern kontinuierlich aktualisiert, neu gewichtet (Fine-Tuning) und durch Sicherheitsfilter (RLHF – Reinforcement Learning from Human Feedback) angepasst. Eine Antwort, die das System heute generiert, lässt sich nach einem Modell-Update oft nicht mehr in identischer Form reproduzieren.
Fehlende Archivierung: Anders als wissenschaftliche Publikationen, die über Bibliotheken, Verlage und Repositorien dauerhaft archiviert werden, sind individuelle Chatverläufe flüchtig und privat. Selbst wenn ein Chat-Link geteilt wird, hängt dessen dauerhafte Verfügbarkeit allein von der Infrastruktur und den Geschäftsbedingungen eines privaten Technologiekonzerns ab.
Eine Quelle, die sich bei jedem Aufruf verändert und deren langfristige Auffindbarkeit nicht gesichert ist, widerspricht dem Wesen des wissenschaftlichen Referenzsystems diametral.
(Ende von Teil 1 – Im zweiten Teil dieses Fachbeitrags werden die rechtlichen und urheberrechtlichen Implikationen, die Gefahr der Reproduktion von Biases (Verzerrungen), die aktuellen Richtlinien deutschsprachiger Hochschulen sowie konstruktive Wege für einen wissenschaftlich redlichen Einsatz von KI im Forschungs- und Schreibprozess beleuchtet.)
Die Illusion der Verlässlichkeit: Warum KI-Texte keine validen Quellen sind
Nachdem die grundlegende Funktionsweise großer Sprachmodelle (Large Language Models, LLMs) als probabilistische Textgeneratoren beleuchtet wurde, wird deutlich, weshalb der Einsatz von ChatGPT als zitierfähige Quelle den fundamentalen Prinzipien wissenschaftlichen Arbeitens widerspricht. Wissenschaftliche Erkenntnis basiert auf Nachvollziehbarkeit, intersubjektiver Überprüfbarkeit und klarer Autorschaft. Ein generatives KI-System unterläuft genau diese Säulen.
Der zentrale Kritikpunkt liegt in der fehlenden Reproduzierbarkeit der Ergebnisse. Während ein Buch, ein Fachartikel oder selbst eine archivierte Webseite ein statisches Objekt darstellt, auf das sich verschiedene Forschende zu unterschiedlichen Zeitpunkten beziehen können, liefert ChatGPT auf identische Eingaben (Prompts) oft unterschiedliche Antworten. Selbst wenn der sogenannte „Temperature“-Parameter – der die Kreativität beziehungsweise Zufälligkeit der Wortwahl steuert – auf ein Minimum reduziert wird, bleibt das Modell ein dynamisches System. Durch regelmäßige Updates der Modellgewichte, Anpassungen der Sicherheitsfilter (Guardrails) und wechselnde System-Prompts im Hintergrund existiert keine stabile Referenzversion, die dauerhaft überprüft werden könnte. Ein Zitat aus einer ChatGPT-Konversation gleicht damit dem Verweis auf ein flüchtiges Gespräch unter vier Augen, dessen genauer Wortlaut sich im Nachhinein nicht unabhängig verifizieren lässt.
Das Phänomen der Halluzinationen und die Gefahr fiktiver Belege
Ein weiteres schwerwiegendes Problem für die Zitierwürdigkeit ist die Neigung von LLMs zu sogenannten Halluzinationen – also der Generierung plausibel klingender, aber faktisch falscher Informationen. Da das Modell darauf trainiert wurde, statistisch wahrscheinliche Wortfolgen zu bilden und nicht darauf, Wahrheitsgehalte anhand einer verifizierten Wissensdatenbank abzugleichen, füllt es Wissenslücken nahtlos mit erfundenen Details.
In der wissenschaftlichen Praxis zeigt sich dies besonders drastisch bei Literaturangaben. Wird ChatGPT aufgefordert, Studien oder Belege für eine bestimmte These zu nennen, konstruiert das System häufig vollständige bibliografische Angaben: Es kombiniert reale Namen renommierter Forschender mit existierenden Fachzeitschriften und erfindet dazu passende Titel, Jahrgänge und sogar DOI-Nummern (Digital Object Identifier). Für ungeübte Lesende sind diese Fälschungen auf den ersten Blick kaum von echten Quellen zu unterscheiden. Wer solche ungeprüften Angaben in eine akademische Arbeit übernimmt, begeht – selbst ohne Täuschungsabsicht – ein schweres wissenschaftliches Fehlverhalten, da nicht existente Belege angeführt werden.
Auch die Integration von Web-Suchfunktionen in neuere Modellversionen löst dieses Problem nur bedingt. Zwar kann das System aktuelle Artikel abrufen und verlinken, doch bei der Zusammenfassung und Synthese dieser Inhalte unterlaufen ihm weiterhin Fehlinterpretationen, unzulässige Verkürzungen oder Vermischungen verschiedener Quellen. Das Modell bleibt ein unzuverlässiger Vermittler, der den ursprünglichen Kontext einer Primärquelle verzerren kann.
Fehlende Autorschaft und mangelnde Verantwortlichkeit
In der Wissenschaftstradition ist ein Zitat untrennbar mit dem Konzept der intellektuellen Verantwortung verknüpft. Eine Autorin oder ein Autor bürgt mit dem eigenen Namen und der fachlichen Reputation für die Richtigkeit der erhobenen Daten, die Sauberkeit der Methodik und die Schlüssigkeit der Argumentation. Bei einer KI existiert kein solches Subjekt. Ein Sprachmodell besitzt weder ein Bewusstsein noch ein Verständnis für die Bedeutung der generierten Sätze, noch kann es für Falschaussagen rechtlich oder ethisch haftbar gemacht werden.
Darüber hinaus bleibt die genaue Herkunft der Informationen im Dunkeln. Die Trainingsdaten von ChatGPT umfassen Milliarden von Texten aus dem Internet, darunter peer-reviewte Fachpublikationen, aber eben auch Forenbeiträge, veraltete Lexika, satirische Texte und fehlerhafte Blogs. Während der Textgenerierung verschmilzt das Modell diese unzähligen Einflüsse zu einem homogenen Textfluss, ohne offenzulegen, welche spezifische Information aus welcher ursprünglichen Quelle stammt. Ein Verweis auf „OpenAI (2026)“ oder „ChatGPT“ verschleiert somit die eigentlichen Urheberinnen und Urheber der Gedanken und verstößt gegen das Gebot, stets die Primär- oder zumindest eine verlässliche Sekundärquelle anzugeben.
Urheberrechtliche Grauzonen und das Risiko verdeckter Plagiate
Eng verbunden mit der fehlenden Quellenangabe ist die Problematik des Plagiats. Da generative KI-Modelle Muster aus ihren Trainingsdaten reproduzieren, besteht stets das Risiko, dass sie Passagen generieren, die bestehenden urheberrechtlich geschützten Werken stark ähneln oder diese nahezu wörtlich übernehmen – ohne dies kenntlich zu machen.
Übernehmen Studierende oder Forschende solche Textpassagen unkritisch in ihre eigenen Arbeiten und geben lediglich ChatGPT als Quelle an, laufen sie Gefahr, ein unbewusstes Plagiat zu begehen. Die ursprüngliche geistige Leistung Dritter wird nicht gewürdigt, was sowohl ethische Standards als auch urheberrechtliche Bestimmungen verletzen kann. Zudem ist die rechtliche Einordnung von KI-generierten Inhalten in vielen Jurisdiktionen noch nicht abschließend geklärt; nach geltendem deutschen und europäischen Recht genießen rein maschinell erzeugte Texte mangels persönlicher geistiger Schöpfung keinen Urheberrechtsschutz, was ihren Status als eigenständige, zitierfähige Werke weiter schwächt.
Wann ein Verweis auf ChatGPT dennoch notwendig ist
Trotz der fehlenden Zitierwürdigkeit im klassischen Sinne gibt es klar definierte Ausnahmen, in denen ein Verweis auf ChatGPT nicht nur zulässig, sondern sogar zwingend erforderlich ist. Hierbei muss strikt zwischen der Nutzung als Informationsquelle und der Betrachtung als Untersuchungsgegenstand oder Hilfsmittel unterschieden werden.
ChatGPT als Forschungsgegenstand: Wenn die KI selbst im Zentrum der Untersuchung steht – etwa in einer linguistischen Analyse der Textqualität, einer soziologischen Studie über algorithmische Vorurteile (Bias) oder einer informatikwissenschaftlichen Evaluation von Antwortverhalten –, werden die generierten Ausgaben zu empirischen Primärdaten. In diesem Fall werden die Prompts und die dazugehörigen Antworten exakt dokumentiert, häufig im Anhang der Arbeit hinterlegt und im Text nach den jeweiligen Richtlinien (z. B. APA oder MLA) referenziert.
Transparenzpflicht bei der Nutzung als Werkzeug: Wird ChatGPT im Forschungs- oder Schreibprozess als unterstützendes Werkzeug eingesetzt – beispielsweise zur Strukturierung von Gedanken, zur Übersetzung fremdsprachiger Passagen, zur Korrektur von Stil und Grammatik oder zur Generierung von Programmiercode für die Datenanalyse –, greift das Gebot der wissenschaftlichen Redlichkeit. Universitäten und Fachverlage verlangen zunehmend eine explizite Offenlegung solcher Hilfsmittel, etwa in einem gesonderten Abschnitt zur Methodik oder in einer eidesstattlichen Erklärung. Hierbei wird die KI jedoch nicht wie ein Fachbuch im Literaturverzeichnis zitiert, sondern als technisches Instrument beschrieben.
Strategien für den wissenschaftlich sauberen Umgang
Um die Effizienzvorteile moderner Sprachmodelle zu nutzen, ohne die akademische Integrität zu gefährden, hat sich in der Praxis ein mehrstufiges Vorgehen etabliert. ChatGPT eignet sich hervorragend für das initiale Brainstorming, um einen schnellen Überblick über ein unbekanntes Themenfeld zu gewinnen oder erste Suchbegriffe für die klassische Literaturrecherche zu identifizieren.
Sobald jedoch konkrete Fakten, Definitionen, Statistiken oder theoretische Konzepte in eine wissenschaftliche Argumentation einfließen sollen, muss die KI-Ausgabe konsequent verlassen werden. Jede inhaltliche Aussage, die das Modell liefert, dient lediglich als unbestätigte Arbeitshypothese. Im nächsten Schritt müssen über etablierte wissenschaftliche Datenbanken – wie Google Scholar, PubMed, JSTOR oder Fachbibliotheken – valide Primärquellen recherchiert werden, welche die jeweilige Aussage tatsächlich belegen. Zitiert wird am Ende ausschließlich die gefundene und selbst gelesene Fachliteratur.
Fazit: Ein leistungsstarkes Werkzeug, aber kein Wissensspeicher
ChatGPT ist keine digitale Enzyklopädie und kein Ersatz für wissenschaftliche Fachdatenbanken. Seine Stärke liegt in der Sprachverarbeitung, der Mustererkennung und der Strukturierung von Informationen – nicht in der verlässlichen Wissensvermittlung. Da das System weder über ein Wahrheitsverständnis noch über stabile, überprüfbare Quellenverweise verfügt und zudem keine Verantwortung für seine Aussagen übernehmen kann, erfüllt es keines der Kriterien für eine zitierwürdige Quelle.
Für Autorinnen und Autoren wissenschaftlicher Texte bedeutet dies eine klare Rollentrennung: Generative KI kann als kreativer Sparringspartner und technischer Assistent den Arbeitsprozess beschleunigen, doch die intellektuelle Kontrolle, die Quellenkritik und die Verantwortung für die Richtigkeit jedes einzelnen Belegs verbleiben unteilbar beim Menschen. Wer diesen Grundsatz beherzigt, schützt sich vor peinlichen Fehlern durch Halluzinationen und wahrt die hohen Standards akademischer Forschung.
💡 Wichtige Punkte
- Welche Elektronik darf nicht ins Handgepäck? - Zum Beispiel: Elektronische Geräte mit Lithium-Ionen-Akkus, zu denen meist auch Powerbanks, E-Zigaretten, Notebooks, Tablets und Digitalkameras zähl
- Warum ist ChatGPT nicht zitierwürdig? - Zitieren und Quellenarbeit mit KI-Unterstützung ChatGPT Zitieren kann problematisch sein, da das Tool keine Quellen für die von ihm erzeugten Inhalt
- Warum ist Chatgpt nicht mehr kostenlos? - Der Betrieb und die Verbesserung von KI-Modellen wie ChatGPT verursacht erhebliche Kosten, insbesondere in Bezug auf Infrastruktur, Sicherheit und For
- Warum vertrauen die Leute Chatgpt nicht? - Zu den weiteren problematischen Ergebnissen des Experiments gehört, dass ChatGPT einen Artikel der New York Times, der von der New York Times blockie
- Warum sollten Sie Chatgpt nicht verwenden? - Private oder vertrauliche Informationen.

