Ich bekam die Tage in meine Insta-Timeline ein Reel gespült, in welchem die Frage erörtert wurde, in wie weit sich die im EEG messbare Hirnaktivität verändert, wenn man Probanden eine nicht ganz triviale Aufgabe gibt – schreibe einen Essay über ein vorgegebenes Thema – und die Gruppen dann einteilt in a) dürfen ein LLM (hier ChatGPT) benutzen, b) dürfen eine Suchmaschine benutzen, c) dürfen nur ihr Hirn benutzen. Dem Reel zugrunde liegt eine Studie, welche vom MIT Media Lab (Juni 2025 – Preprint) durchgeführt wurde, die allerdings noch nicht verallgemeinerbar ist, weil die Zahl der Probanden gering war (n=54). Hierbei ist dennoch festzustellen, dass die Nutzung von LLMs im gegebenen Setting zu deutlich verminderter Hinrnaktivität während der Bearbeitung führt. Dies ist durch das Cognitive Offloading (also die Lastverminderung durch Auslagern von Aufgaben) zu erklären. Aber nicht nur dass – die kognitive Leistungsfähigkeit bleibt auch danach eingeschränkt. Diese sogenannte Cognitive Debt als Langzeitfolge der wiederholten LLM-Nutzung wirft die Frage auf, welchen Wert diese Algorithmen für uns überhaupt haben können, wenn unsere eigene kognitive Leistungsfähigkeit unter der Nutzung leidet? Für mich jedoch noch viel relevanter ist folgender Gedanke: wenn wir Denkaufgaben an Algorithmen auslagern, geben wir einen der bedeutendsten Aspekte des Menschseins ab: nämlich bewusstes Beobachten, Wahrnehmen, Kenntnisabgleich, Einordnen, situative Handlungsadaption, heuristische Prädiktion, moralisches Werturteil, etc. – kurz gesagt, all das, dessen mögliche Tiefe und Komplexität unsere kognitiven Fähigkeiten von denen aller anderen Säugetiere wesentlich unterscheidet. Ich muss an dieser Stelle etwas ausholen, um die Folgen klar darstellen zu können.
?Gehen wir einen Schritt weiter. “Die Würde des Menschen ist unantastbar”. Art. 1, Abs. 1 unseres GG lautet genau deshalb so, weil nie wieder Menschen objektifiziert, also zu Dingen degradiert werden sollten, um sie wie Dinge behandeln zu können. Ja, ich rede natürlich von den Nazis und vom Holocaust. Die Mütter und Väter des Grundgesetzes hatten 1948 sehr genau verstanden, was hier passiert war; nämlich, dass man Menschen zu Dingen erklärt und ihnen damit die Menschenrechte abgesprochen hatte, um sie ohne Hemmungen zu Millionen töten zu können. Und genau eine Wiederholung dessen sollte das Grundgesetz verunmöglichen (auch wenn wir heute wieder dreckige, blaubraune Faschos unter uns haben, die sich nicht darum scheren, dass alle Menschen gleich sind)! Die somit zumindest bei uns in Deutschland als Subjekt-Qualität von Verfassungsrang geschützte Würde des Menschen ist allerdings untrennbar mit seinem Bewusstsein und seiner Fähigkeit zum moralischen Werturteil verbunden. Lagere ich nun meine Denkprozesse an eine Maschine aus, hat das aus meiner Sicht mehrere Konsequenzen zur Folge: (A) ich beraube mich, indem ich eine meine ureigensten Aufgaben und Privilegien an die Maschine delegriere, selbst meiner Menschenwürde. Denn es ist ein evolutionäres Privileg, über derartig weitreichende kognitive Fähigkeiten zu verfügen, aus dem jedoch auch die Verantwortung erwächst, sich derselben umfänglich zu bedienen, also denkend das Schicksal zu bezwingen. “Sapere Aude!” – “Wage es, weise zu sein!” Horaz schrieb es, Kant hat es zitiert. Wenn ich das ohne jede Not weggebe, beschneide ich mich selbst als Mensch! (B) und das ist noch wesentlich weitreichender, werfe ich die Frage auf, ob eine Maschine menschliche Qualität haben kann, bzw. haben darf, wenn ich denn zumindest Teile meiner Würde auf sie delegiere? Die Büchse der Pandora ist offen – und noch sehe ich nicht die (neue) Hoffnung, welche ja als letztes aus dieser Büchse entfliehen soll… Wo ist die Grenze, da ein menschengemachter Algorithmus – alle juristischen, moralischen, sozialen, wirtschaftlichen, politischen, etc. Folgen inclusive – zu einer Person wird? Schließlich, aber nicht letztlich, da dies hier lediglich ein Denkanstoß sein kann… (C) was macht das alles am Ende des Tages mit uns Menschen? Werden wir wirklich weniger Würde haben, als zuvor? Wird uns die Entlastung am Ene doch bereichern? Wie wollen wir uns selbst sehen? Werden wir uns in unserem Denken und Handeln alsbald den Algorithmen nähern und irgendwann völlig dehumanisiert?
Ich will ehrlich sein: mir graut vor einer Welt, in der einst ein Algorithmus – ein bloßes, von Mathematik getriebenes Machwerk von Menschenhand – vor Gericht wegen irgendwas gegen irgendeinen Menschen klagen kann. Ich habe Angst, dass wir uns selbst in der Folge der Renditegläubigkeit und des Effizienzgefasels der Techbros – mehr Marketing-Gag als Realität – auf statistische Berechnungen verlassen, die unser Vertrauen nicht verdient haben, weil sie uns als Menschen kleiner, weniger, dümmer machen; und wahrscheinlich auch weniger human. Unser nächster evolutionärer Schritt zeigt meines Erachtens im Moment in die völlig falsche Richtung und dennoch versuchen so viele gerade verzweifelt, ein Ticket für diesen Zug nach nirgendwo zu bekommen, weil sie glauben, das wäre der nächste heiße Scheiß auf ihrem Weg zu Glück und Reichtum; wobei Kapitalisten die beiden Begriffe ja gerne gleichsetzen. Ich war und bin definitiv kein Luddit. Doch die Art und Weise, wie wir heute mit LLMs umgehen, sie zu benutzen glauben, während wir sie nur weiter füttern, damit sie noch mehr AI-Slop erzeugen und ihre Besitzer noch reicher machen können – in der fatalen Annahme, dass sei schon KI – gereicht nicht zu unserem Vorteil, sondern zu unserer weiteren kognitiven Verarmung. Und das will und werde ich nicht hinnehmen. Dieser Text wurde übrigens, wenn auch mit ein wenig Suchmaschinenhilfe, von einem Menschen erzeugt. Einem Menschen, der morgen, den Kopf voller Gedanken, das Herz erfüllt von ein bisschen Wehmut aber auch Vorfreude auf etwas weniger Hitze, die erste Etappe des Rückwegs aus den Pyrenées-Orientales antreten wird. Daher heißt es morgen früh Au revoir Tautavel. Auf nach Hause… wenn auch mit einem Schlenker über die Rhône-Alpes. Wir lesen uns.