Blogbeitrag Chat-Souveränität
Wie wissenschaftliches Arbeiten mit Sprachmodellen die Führung behält
Prof. Dr. Inken Prohl
veröffentlicht am 30.07.2026
Inken Prohl ist Religionswissenschaftlerin und Japanologin. Seit 2006 lehrt sie als Professorin für Religionswissenschaft an der Ruprecht-Karls-Universität Heidelberg. Ihre Forschungsschwerpunkte sind u. a. die rezente Religionsgeschichte Deutschlands, Japans und der USA, Religion and Artificial Intelligence sowie Materiale Religion.
Eine Studentin sitzt abends vor einem Seminartext, den sie bereits zweimal gelesen hat, ohne ihn so richtig zu verstehen. Sie kopiert die schwierigste Passage in ein Large Language Model (LLM) und bittet um eine Zusammenfassung; zwei Sekunden später steht sie da, ordentlich gegliedert und in einfacheren Worten. Ein Doktorand lässt einen langen Aufsatz von einem Sprachmodell auf drei Punkte kürzen und erhält einen überzeugend wirkenden Überblick. Eine Dozentin bereitet ihre Sitzung vor und tippt eine Frage ein: Wie gewinnen Religionen neue Anhänger? Auch darauf kommt sofort eine rund klingende Antwort: Religionen stiften Gemeinschaft, geben Halt in Krisen und vermitteln Sinn. Was auf den drei Bildschirmen erscheint, liest sich flüssig und klingt richtig. Es trifft das, was die drei ohnehin ungefähr erwartet hätten. Genau deshalb ist es ein Problem.
Das eigene Arbeiten war in allen drei Fällen bereits im Gange. Die Studentin hat ihren Text gelesen, der Doktorand hat den Aufsatz ausgewählt, die Dozentin hat eine fachliche Frage gestellt. Doch genau an solchen frühen Stellen wissenschaftlicher Arbeit setzt das Sprachmodell ein und bringt den begonnenen Prozess in eine fertige Ordnung, bevor die drei selbst entschieden haben, was schwierig, wichtig oder strittig ist. Es macht aus einer schwierigen Passage eine verständliche Darstellung, aus einem langen Aufsatz einen kompakten Überblick, aus einer komplexen Frage eine runde Antwort.
Damit verschiebt sich, wie jemand sich einen Gegenstand erschließt. Ohne Sprachmodell verläuft diese Klärung durch eigenes Lesen, Stocken, Nachfragen und Prüfen. Mit dem Sprachmodell erfolgt eine erste Einordnung, die in die weitere Arbeit einfließt. Das kann helfen, weil es Orientierung bietet. Es kann aber auch dazu führen, dass Nutzerinnen und Nutzer diese Einordnung übernehmen, ohne sie zuvor geprüft zu haben.
So greifen Sprachmodelle in die eigene Reflexion ein. Sie eröffnen einen Zugang zu einem Gegenstand, der oft selbstverständlich erscheint. Durch diese Vorauswahl bleibt von mehreren möglichen Zugängen zunächst nur einer sichtbar. Andere Fragen, Begriffe und Gewichtungen treten zurück. Die Komplexität des Gegenstands wird dadurch eingeebnet, bevor sichtbar wird, was alles anders gefragt, anders gewichtet oder anders entschieden werden könnte. Verdeckt wird zugleich, dass es diese Komplexität überhaupt gibt. Die Antwort überzeugt gerade deshalb, weil sie die offene, widersprüchliche und mühsame Arbeit des Nachdenkens hinter einer glatten Ordnung verschwinden lässt.
Wie glatte Antworten entstehen
Wie entstehen diese glatten Antworten? Ein Sprachmodell erzeugt Text, indem es auf einen Prompt mit wahrscheinlichen sprachlichen Fortsetzungen antwortet. Grundlage dafür sind Muster, die im Training aus großen Textmengen gebildet wurden. Dabei kann eine sprachlich überzeugende Ordnung entstehen: ein akademischer Ton, eine plausible Gliederung, eine scheinbar passende Erklärung. Genau darin liegt ihr praktischer Nutzen. Eine komplizierte Passage erscheint in einfacherer Sprache, eine unübersichtliche Argumentation erhält eine klare Form.
Dass eine Antwort flüssig und plausibel klingt, sagt jedoch noch nichts darüber aus, ob sie fachlich korrekt ist oder zur eigenen Fragestellung passt. Problematisch ist, dass dabei leicht der Eindruck entsteht, ein Argument verstanden zu haben. Ohne ausdrückliche Aufforderung prüft ein LLM in der Regel nicht, welche Stellen einer Argumentation – zum Beispiel aus religionswissenschaftlicher Perspektive – strittig sind, ob ein Begriff im Fach umstritten ist oder ob eine Feststellung gerade deshalb plausibel wirkt, weil sie vertraute Erwartungen bedient.
Was ein Sprachmodell liefert, wird erst brauchbar, wenn Nutzende es prüfen: am Text, an der Fragestellung, an fachlichen Kriterien und an dem, was sie über Menschen, Situationen und soziale Zusammenhänge wissen. Nötig ist auch ein Blick darauf, ob eine Antwort Konflikte ausblendet oder eine soziale Wirklichkeit einfacher erscheinen lässt, als sie tatsächlich ist.
Religion ohne Orte, Menschen und Dinge
Woher beziehen LLMs ihr vermeintliches Wissen über Religion? Die Anbieter großer Sprachmodelle legen ihre Trainingsdaten nicht vollständig offen. Es lässt sich also nicht genau sagen, welche Texte in welchem Umfang ins Training eingegangen sind. Dennoch lässt sich festhalten, dass solche Modelle mit sehr großen Mengen öffentlich verfügbarer sowie zusätzlich lizenzierter oder bereitgestellter Texte trainiert werden. Für Feststellungen über Religion hat das Folgen. In diesen Textmengen finden sich religionswissenschaftliche Analysen, doch sie bilden nur einen Teil dessen, was über Religion geschrieben wird. Viel breiter sichtbar dürften theologische Texte, journalistische Beiträge, Ratgeber- und Erbauungsliteratur sowie Stimmen von Menschen sein, die ihre eigene religiöse Praxis beschreiben: ihren Glauben, ihre Rituale, ihre Zugehörigkeit, ihre Krisen und Erfahrungen.
Viele dieser Texte sprechen folglich aus der Innenperspektive von Religion oder geben diese Innenperspektive weiter. Sie beschreiben Religion so, wie sie von Gläubigen, religiösen Institutionen, theologischen Autorinnen und Autoren oder spirituellen Ratgebern verstanden wird: als Glaube, Sinn, Halt, Zugehörigkeit, Praxis, Überzeugung oder Erfahrung. Die religionswissenschaftliche Perspektive setzt anders an. Sie fragt auch, was Religion für Beteiligte bedeutet, nimmt darüber hinaus jedoch in den Blick, wie religiöse Vorstellungen, Praktiken und Zugehörigkeiten sozial entstehen, weitergegeben und stabilisiert werden.
Für LLMs ergibt sich daraus ein Problem. Sie bilden wahrscheinliche sprachliche Fortsetzungen aus den Texten, die ihnen zur Verfügung stehen. Wenn in diesen Texten Innenperspektiven besonders breit vertreten sind, liegt es nahe, dass auch die Antwort des Modells in diese Richtung geht. Das LLM greift dann leicht auf religiöse Selbstbeschreibungen zurück. Für Nutzerinnen und Nutzer bleibt oft unklar, ob die Antwort eine Innenperspektive wiedergibt oder den Gegenstand analytisch beschreibt. Genau darin liegt der Fallstrick für diejenigen, die wissenschaftlich über Religion arbeiten wollen. Die Antwort klingt anschlussfähig, weil sie vertraute Redeweisen über Religion aufgreift.
Religionswissenschaftliche Analysen gehen zudem eher von konkreten sozialen Formen aus und fragen zum Beispiel, wie Menschen Religion mit Dingen, Medien, Räumen und Körpern vermitteln und wie sie sich organisieren. Deshalb richtet sich der Blick etwa auf eine Gemeinde, in der freitags gepredigt wird, auf einen Konfirmandenkurs, in dem Jugendliche ein Glaubensbekenntnis einüben, auf eine Pilgergruppe, einen YouTube-Kanal oder auf eine Familie, die am Küchentisch betet. Dazu gehören auch die Dinge, die religiöse Praxis tragen: ein Gebetbuch, eine Kerze, ein Kleidungsstück oder das Smartphone mit einer Predigt-App. Die Religionswissenschaft erschließt religiöses Leben so als Geflecht aus Menschen, Praktiken und Dingen, das von Kontext zu Kontext überaus unterschiedlich sein kann. Wer mit einem LLM arbeitet, muss deshalb aufmerksam bleiben und darf sich von innenperspektivischen oder glatten Deutungsmustern nicht vereinnahmen lassen.
Wörter, die nach Analyse klingen
Selbst in längeren Arbeitsprozessen mit religionswissenschaftlichen Texten bringen Sprachmodelle Wörter hervor, die religionswissenschaftlich wenig erklären, etwa „quasireligiös“, „semi-transzendent“ oder „säkulare Heiligkeit“. Solche Formeln sind als beschreibende und analytische Kategorien unbrauchbar. Etwas ist im analytischen Sinne religiös oder es ist es nicht; etwas ist analytisch als transzendent zu bezeichnen oder es ist nicht so zu bezeichnen. „Quasireligiös“ und „semi-transzendent“ setzen Abstufungen an die Stelle klarer analytischer Unterscheidungen. „Säkulare Heiligkeit“ wirkt analytisch, trägt jedoch nicht zur Klärung bei. Der Ausdruck verbindet „Heiligkeit“, also einen Begriff für religiös zugeschriebene besondere Geltung, mit „säkular“, also einem Begriff für Kontexte, die gerade nicht religiös bestimmt sind. Dadurch bleibt offen, was eigentlich beobachtet wird: Verehrung, moralische Aufladung, soziale Unantastbarkeit, ritualisierte Praxis oder politische Autorität. Wie die beiden anderen Formeln ersetzt sie die Analyse konkreter Zuschreibungen durch eine schillernde Mischformel. Gerade dadurch verstellen solche Formeln den Blick auf das, was interessant wäre: die Konstellation, in der uns etwas zugleich als religiös und als nicht religiös erscheint. Für diese Unterscheidung bedarf es eines heuristisch klaren Begriffs von Religion; ich verweise hierfür auf meine anderen Blogartikel, zum Beispiel auf "KI und Religion: Wenn Technik zur künstlichen Religion wird".
Die Führung behalten
Was bei der Rede über Religion deutlich wird, gilt auch für andere wissenschaftliche Felder. Ein Sprachmodell berechnet, welche Formulierungen, Beispiele und Erklärungen in einem bestimmten Zusammenhang am wahrscheinlichsten sind. Bei Religion liegen dann Sinn, Gemeinschaft, Trost und Werte schnell nahe. In anderen Feldern sind es vergleichbare vertraute Kombinationen. Die Antwort eines LLMs kann also leicht überzeugend wirken, weil sie an das anschließt, was Nutzerinnen und Nutzer ohnehin oft erwarten. Doch das zu beurteilen erfordert eine Prüfung: ob die Antwort den Text trifft, die Fragestellung aufgreift, das Material angemessen behandelt und fachlich begründet werden kann.
Wer wissenschaftlich mit Sprachmodellen arbeitet, muss deshalb mehr tun, als eine geglättete Antwort zu erkennen. Die Antwort muss geprüft, korrigiert und gegebenenfalls verworfen werden können. Diese Arbeitsform nenne ich Chat-Souveränität. Gemeint ist damit, ein Sprachmodell als Unterstützung zu nutzen, ohne ihm die Führung über die eigenen Fragen, Lernwege und Urteile zu überlassen.
Chat-Souveränität umzusetzen ist schwerer, als es zunächst scheint. Das hängt mit der Funktionsweise von LLMs zusammen. Häufig bietet das Sprachmodell nach einer Antwort bereits den nächsten Schritt an: „Soll ich dir daraus eine Gliederung erstellen?“, „Soll ich dir dazu eine Tabelle erstellen?“ oder „Soll ich dir daraus einen Textbaustein formulieren?“ Das ist bequem, weil die Arbeit nicht stockt. Auf die Zusammenfassung folgt die Gliederung, auf die Gliederung der erste Absatz, auf den Absatz die überarbeitete Fassung. Mit jedem Schritt wird es leichter, dem Vorschlag des jeweiligen Modells zu folgen. Solche kleinen Cliffhanger halten das Gespräch in Gang. In dieser Fortsetzungslogik entscheidet nicht mehr die eigene Fragestellung darüber, wie es weitergeht, sondern das zuletzt gemachte Angebot. Chat-Souveränität geht deshalb nicht erst dort verloren, wo eine Antwort sachlich falsch ist. Sie geht auch dort verloren, wo Nutzerinnen und Nutzer der Maschine überlassen, wie es weitergeht. Noam Scheiber berichtet in der New York Times von einer Untersuchung, in der Führungskräfte Dokumente nachlässiger prüften, sobald ihnen gesagt wurde, ein KI-Agent habe sie erstellt: Die Prüfung erschien ihnen nicht mehr als ihre eigene Aufgabe (Scheiber 2026).
Chat-Souveränität bedeutet, das Sprachmodell Vorschläge liefern zu lassen, während Studierende, Lehrende und Forschende die Führung behalten. Es kann einen Text zusammenfassen, Notizen ordnen, mehrere Gliederungen vorschlagen, Formulierungen überarbeiten oder auf Aufforderung Gegenargumente formulieren. Diese Vorschläge können hilfreich sein. Sie ersetzen jedoch nicht das fachliche Urteil. Menschen müssen entscheiden, ob eine Zusammenfassung den Text trifft, ob eine Gliederung zur Fragestellung passt, ob ein Gegenargument ernst zu nehmen ist und ob eine Formulierung fachlich genau ist. Genau darin liegt die Arbeit, die nicht an das Modell abgegeben werden kann.
Wie viel Fachwissen ist nötig?
Aufschlussreich ist hier der Begriff der KI-Fachkompetenzschwelle, den die Wirtschaftswissenschaftlerin Barbara Geyer geprägt hat. Gemeint ist der Punkt, an dem Menschen über ausreichendes fachliches Wissen verfügen, um beurteilen zu können, was eine KI liefert (Geyer 2026). Der Begriff trifft ein reales Problem: Wer zu wenig weiß, erkennt oft nicht, wo eine Antwort nur gut klingt. Zugleich ist er heikel. Bedeutet das, dass Studierende Sprachmodelle erst dann sinnvoll nutzen können, wenn sie bereits weit fortgeschritten sind? Erst nach der Abschlussarbeit, nach der Promotion, nach Jahren fachlicher Übung? Das wäre weder realistisch noch didaktisch hilfreich. Denn viele Studierende, Lehrende und Forschende arbeiten längst mit KI. Die entscheidende Frage ist deshalb nicht, ob sie bereits über einer solchen Schwelle stehen. Entscheidend ist, wie sie lernen, die Grenzen ihrer eigenen Urteilsfähigkeit zu erkennen.
Doch wie lassen sich die eigenen Grenzen erkennen? Und worin besteht der richtige Umgang mit LLMs? Bedeutet Chat-Souveränität vor allem Fachwissen, ohne das keine Antwort zu beurteilen ist? Ist sie Selbstdisziplin, der Verzicht auf den bequemen nächsten Schritt? Oder eine Balance zwischen dem eigenen Denken und den Vorschlägen der Maschine – und was heißt dann eigenes Denken, das ja selbst von allem geprägt ist, was jemand je gelesen und gehört hat? Diese Fragen lassen sich hier nicht abschließend beantworten. Sie markieren vielmehr den Ausgangspunkt für künftige Forschungen zum wissenschaftlichen Arbeiten mit KI. Als heuristische Leitlinie lässt sich jedoch festhalten: Chat-Souveränität braucht Fachwissen, weil nur so beurteilt werden kann, ob eine Antwort fachlich stimmig und begründbar ist. Sie braucht aber ebenso die Bereitschaft, dieses Urteil zu fällen, selbst dann, wenn der nächste Vorschlag des Modells bereits vorliegt.
Wer souverän mit LLMs umgeht, unterbricht die Fortsetzungslogik der Maschine und bindet das Modell an Text, Material und Methode. Dann können LLMs wissenschaftliches Arbeiten erheblich unterstützen: Sie bringen Tempo in die Arbeit und helfen beim Lesen und Ordnen von Notizen. Wer feststeckt, bekommt Formulierungen und Gegenargumente vorgeschlagen und kommt damit oft weiter.
Chat-Souveränität heißt, diese Stärke wissenschaftlich zu nutzen: mit klaren Fragen und fachlichem Urteil – und mit der Lust, mit Unterstützung der Maschine besser wissenschaftlich zu arbeiten. Sie beginnt dort, wo Menschen selbst bestimmen, welche Frage zählt, welche Antwort genügt und wo die eigene Arbeit weitergehen muss. Wie das gelingt, muss bei jeder neuen Interaktion mit LLMs neu ausgehandelt werden. Die Arbeit mit der Maschine nimmt der Wissenschaft die alten Fragen nicht ab. Sie stellt sie schärfer: Was ist eigenes Denken? Was heißt urteilen? Wie entsteht Wissen?
Literatur
Geyer, Barbara. 2026. „Die KI-Kompetenzfalle: Wie sich ändern muss, was wir lehren, wenn die KI das Ausführen übernimmt“. KI in Lehre und Weiterbildung, 30. Juni 2026. https://barbarageyer.substack.com/p/die-ki-kompetenzfalle.
Scheiber, Noam. 2026. „We’re Only Starting to Grasp the Pitfalls of Using A.I. at Work“. New York Times, 29. Juni 2026. https://www.nytimes.com/2026/06/29/business/artificial-intelligence-wor….

