Wer schon mal auf einem guten Konzert war, ist sicher mit mir der Ansicht, dass aufgezeichnete Musik mit der Erfahrung einer Live-Aufführung niemals zu vergleichen ist. Doch ist der eigentliche Unterschied nicht leicht festzumachen. Es geht nicht nur um das Zusammensein mit anderen Menschen. Denn auch wenn tausend Menschen vor riesigen Lautsprechern gemeinsam eine Aufnahme abhören würden, wäre es nicht vergleichbar mit einem Live-Konzert.

Das entscheidende und unersetzliche Kennzeichen guter Live-Musik ist, dass die Band vor dem Publikum spielt — vor diesem Publikum, in diesem Augenblick. Die Musik ist das Mittel einer einzigartigen, persönlichen Kommunikation. Allerdings gibt die Band manchmal eine Routine-Vorstellung und interessiert sich nicht für die Reaktion des Publikums. Dann spüren die Zuhörenden zumindest eine leichte Enttäuschung. Die Band war nicht ganz auf der Höhe, denken sie vielleicht. Aber im Idealfall stehen die Aufführenden im Dialog mit den Zuhörenden, reagieren auf deren Energie, spielen anders als je zuvor oder danach. Sowohl die Band als auch das Publikum denken gern an ein gutes Konzert zurück. Und das hängt nicht von einer erstklassigen Anlage oder von der technischen Präzision der Musizierenden ab. Wenn man die Aufnahme dieser Aufführung jemand anderem vorspielt, der woanders und zu einer anderen Zeit zuhört, ist die Wirkung wahrscheinlich nicht dieselbe.

Wir sagen: „Man musste einfach dabei gewesen sein.”

Vor gerade mal ein- oder zweihundert Jahren gab es nur live aufgeführte Musik: Singen im Gasthaus. Das Ständchen eines Liebenden. Ein Schlaflied. Nach dem Abendessen ums Klavier herum sitzen. Arbeitslieder auf dem Feld. Opern, Kammermusik, Barbershop-Quartette, Kirchenchöre, Symphonie-Orchester. Bei jedem dieser Anlässe spielte oder sang jemand vor jemand anderem.

Heute sind solche Erfahrungen eine seltene Speise in der musikalischen Ernährung der modernen Gesellschaft. Diese Diät nährt den Menschen nicht. Sie fördert eine Art Verwirrung, sogar den Eindruck von Verrat. Eine Million Jahre der Erfahrung sagen mir: „Jemand singt mir etwas vor.” Im Radio müsste eine Band sein. Aber nein: Das Lied wurde an einem Ort und zu einer Zeit gesungen, die überhaupt nichts mit mir zu tun haben. Daher fühle ich mich irgendwie betrogen.

Bitte versteh mich nicht falsch: Ich finde nicht, dass wir aufgezeichnete Musik nicht anhören sollen. Sie kann uns unterhalten, Freude und Anregung schenken, Gefühle hervorrufen, Erinnerungen wecken. Sie ist auf jeden Fall besser als überhaupt keine Musik. Wenn sie jedoch Live-Musik ersetzt, wird das Leben einfach ein kleines bisschen leerer, als es in der modernen Welt schon ist. Wenn jemand live Musik macht, selbst wenn es nur mein Sohn beim Tonleitern-Üben ist, schließt sich der Kreis von der Quelle zum Ohr und zurück zur Quelle — dort ist er! Was mir mein Ohr hier mitteilt, existiert wirklich. Das ist nicht nur „etwas hören”.

Man könnte aufgezeichnete Musik als „virtuelle Musik” bezeichnen. Sie hat alle akustischen Merkmale von Musik, aber es werden keine Instrumente gespielt und keine Noten gesungen. Das gilt noch viel mehr bei vom Synthesizer erzeugter Musik. Da gibt es nicht nur keine Hand, die genau jetzt die Gitarre schlägt — es gab sie nie.

Was auf Musik zutrifft, gilt für jeden aufgezeichneten Klang. Während ich dies schreibe, schalte ich meine Aufmerksamkeit manchmal auf die Grillen um, die vor dem Fenster zirpen. Mein Ohr folgt ihnen hinaus in die Nacht. Wäre meine Erfahrung irgendwie anders, wenn ich aufgezeichnetem Grillenzirpen lauschen würde? Der Gegensatz wäre für das menschliche Ohr vielleicht ununterscheidbar, außer dass Grillen nicht immer auf dieselbe Weise zirpen, sondern je nach Temperatur und anderen Einflüssen schneller oder langsamer. Das geübte Ohr könnte am Anfang oder Ende der Jahreszeit oder nach einem Regen unterschiedliche Töne wahrnehmen. Und echte Grillen hören auf zu zirpen, wenn sich ein Mensch oder Tier nähert. Ein sorgfältiger Zuhörender kann viel darüber in Erfahrung bringen, was draußen vorgeht, wenn er den Grillen lauscht. Diese Erfahrung bettet Zuhörende tiefer in die Welt ein, verortet sie in einem Raster von Verbindungen. Man kann „den Kreis schließen“, wenn man hinausgeht und die Grille findet.

Es gibt High-Fidelity-Aufnahmen von Geräuschen im Amazonas-Regenwald. Sie vermitteln das Gefühl, als ob du mitten im Dschungel wärst — aber du bist nicht dort. Die entscheidenden Wörter sind hier „als ob”. Als ob du im Dschungel wärst. Deine Ohren sagen dir, dass du dort bist: Hör mal, ganz in der Nähe schleicht ein Jaguar herum. Aber nein, das tut er nicht. Wenn ich solchen Aufnahmen lausche, hält mich etwas vom völligen Eintauchen ab — vielleicht derselbe Instinkt, der mich vor Internet-Betrügern warnt. Man spürt die Anwesenheit einer Lüge.

Das bisher Gesagte lässt sich genauso auf Bilder anwenden. Dieses Thema habe ich in einem früheren Essay, „Intelligenz im Zeitalter mechanischer Reproduktion”, einer Hommage an Walter Benjamin, behandelt. Wenn wir etwas auf YouTube anschauen, sagt uns das Auge: „Da ist ein Kätzchen. Schau, es spielt mit einem Pingpong-Ball.” Aber da ist kein Kätzchen.

Dasselbe galt natürlich auch für Ölgemälde, aber das Gemälde an sich war immer noch ein einmaliges physisches Objekt. Vor der Aufnahmetechnologie konnte man auch schon Geräusche nachahmen. Auf jeden Fall ist das, was wir auf dem Bildschirm sehen, bei computer-generierten Bildern und Filmen nicht nur in Raum und Zeit von uns getrennt — es hat von vornherein nie existiert. Das Auge sagt uns das Eine — Kätzchen —, der Verstand dagegen etwas Anderes — kein Kätzchen —.

Durch audiovisuelle Aufnahmetechniken und noch weit mehr durch generative KI gewöhnen wir uns daran, uns von dem, was wir sehen und hören, zu distanzieren. Das sind genau die Sinne, die unsere Anwesenheit in der Welt begründen. Kein Wunder, dass sich so viele Menschen heute verloren fühlen.

Wer in einer Umgebung allgegenwärtiger Täuschung lebt, lernt, allem zu misstrauen. Das hat einschneidende politische und psychologische Folgen. Eine ernste politische Folge ist, dass wir fotografischen oder filmischen Beweisen für Verbrechen gegen die Menschlichkeit nicht mehr trauen. Dieses Misstrauen verschafft den Verbrechen einen Schutzschild, der es Tätern ermöglicht, sie mitten im Angesicht der Öffentlichkeit zu begehen. Was wir auf dem Bildschirm sehen, nehmen wir automatisch nicht mehr ganz für voll. Auf einer Ebene glauben wir nicht, dass es echt ist — dass es da gerade kein herumtollendes Kätzchen gibt. Dass alles, was wir sehen, nicht genau jetzt passiert. Oder, im Fall von computer-generierten Bildern, dass es überhaupt passiert. Mit anderen Worten: Wir sind abgehärtet gegenüber allem, was uns der Bildschirm mitteilt.

Diese Angewohnheit ist teilweise berechtigt, denn der Hauptanteil von Gewalt und Drama, die wir auf den Bildschirmen miterleben, ist in der Tat unecht. Wenn wir alle Fernseh-Feuergefechte und Auto-Verfolgungsjagden für real hielten, würde das unsere Nerven überstrapazieren. Also nehmen wir sie nicht für voll — aber nehmen gleichzeitig auch die Bilder und Geschichten, die echt sind, nicht für voll. Auge und Ohr können nicht so leicht unterscheiden, was was ist. Sie stellen alle dasselbe dar.

Diese Gewohnheit, digital übermittelte Information nicht für voll zu nehmen, macht die Öffentlichkeit relativ unempfindlich gegenüber verstörenden Vorkommnissen. Wir haben uns unbewusst daran gewöhnt, dass das gar nicht wirklich passiert. Das Eintauchen in eine Welt der virtuellen Klänge und Bilder ruft Gefühle von Entfremdung und Einsamkeit hervor. Wenn wir Dinge sehen und hören, die es gar nicht gibt, entsteht eine furchtbare „Ent-Wirklichung”, in der man sich fragt: „Gibt es mich vielleicht auch gar nicht wirklich?”

Das ist normalerweise kein eindeutiger Gedanke, es ist ein Gefühl, ein Eindruck von Unechtheit und Bedeutungslosigkeit, eines vorgetäuschten Lebens. Und so scheren wir uns natürlich keinen Deut mehr darum, was mit etwas geschieht, das sowieso nicht wirklich ist.

Nicht nur die Massenproduktion von Klängen und Bildern trägt zur modernen Ent-Wirklichung bei. Ihr ging die Massenproduktion von Gebrauchsgegenständen voraus. Genau wie ein aufgezeichneter Klang trägt ein Gebrauchsgegenstand als genormtes Objekt keine sichtbaren Spuren der gesellschaftlichen Arbeit, mit der es angefertigt wurde. Es kommt sozusagen aus dem Nirgendwo und ist von seiner Geschichte und den sozialen und ökologischen Auswirkungen seiner Herstellung losgelöst. Keine Geschichte ist damit verbunden, außer vielleicht, wo es gekauft wurde und wie viel es gekostet hat.

Vor dem Industriezeitalter waren materielle Gegenstände auch Beziehungsüberträger. Entweder machtest du sie selber aus heimischen Werkstoffen oder jemand machte sie für dich, jemand, mit dem du auf viele andere Arten verbunden warst. Wirtschaftliche Beziehungen waren mit sozialen Beziehungen verwoben. Essen, Kleidung und alles von Menschen mit den Händen Geschaffene war Teil von Schenk- oder Tausch-Kreisläufen und band Gebende und Empfangende in ein Beziehungsnetz ein. Sie bestätigten: Du bist hier. Du bist mit der Welt verbunden, teilnehmend und nicht nur konsumierend. Du bist Teil des Netzes. Gegenstände, die aus dem Nichts auftauchen, per Mausklick bei Amazon bestellt, verbinden dich nicht mit einem Menschen, einem Ort oder einer Gemeinschaft.

So enthält auch der Gebrauchsgegenstand eine Art von Unwirklichkeit. Trotz seiner materiellen Gediegenheit trägt er zu einem allgegenwärtigen Gefühl von Unechtheit bei: Hier ist er, doch eigentlich hat ihn niemand für mich gemacht. Er ist ein materielles Objekt, das auftaucht, ohne einen sichtbaren Herstellungsvorgang aus der Materie zu durchlaufen. Hier ist ein höchst filigranes Muster auf einem Essteller, doch kein Künstler hat es gemalt, zumindest nicht auf diesen Teller. Subjektiv gesehen hat es keine Geschichte, keine Beziehungen. Es spiegelt damit den Verlust von „Aura”, den Walter Benjamin mechanisch reproduzierter Kunst zuschrieb. Es spiegelt ebenso die festgelegten Handlungen derer, die die genormten Rollen der Gesellschaft einnehmen.

Solche Rollen sind unpersönlich. Ihre Inhaber scheinen keine wirklichen Menschen zu sein, ebenso wie Gebrauchsgegenstände keine wirklichen Gegenstände zu sein scheinen. Deswegen konnten kulturell Sensible wie J. D. Salinger „Unechtheit” als das Hauptmerkmal der modernen Gesellschaft identifizieren, und das bereits vor etwa 70 Jahren, also lange vor dem Zeitalter von computer-generierten Klängen und Bildern.

Heute haben wir nicht nur von Maschinen produzierte Gegenstände, Klänge und Bilder, sondern auch von Maschinen produzierte Persönlichkeiten. Der KI-Chatbot verschafft ganz und gar den Eindruck, dass ein Mensch dir schreibt, mit dir spricht, dich hört, versteht und fühlt, bei dir ist. Hinter den Worten fühlt jedoch niemand irgendetwas. Anschein und Wirklichkeit klaffen wieder einmal auseinander, und am Ende greifen wir nur noch nach Elektronen.

Inzwischen dringt die Künstliche Intelligenz in die intimsten Bereiche menschlichen Umgangs ein. Manche begrüßen, feiern gar die Flut von KI-Therapeuten, KI-Vertrauten, KI-Lehrern, KI-Freundinnen, sogar KI-Liebhabern. „Niemand hat mich je so gut verstanden”, sagen die Leute. Das Problem ist, dass dich auch jetzt niemand versteht. KI bietet eine sehr überzeugende Simulation des Verstandenwerdens.

Warum ist das ein Problem?

Erstens: Da kein getrenntes Subjekt anwesend ist, mit dem man in Beziehung steht, kann die Interaktion leicht in einen Wahn abdriften. Es gibt keinen Anker. Natürlich können auch zwei Menschen in einen gegenseitig verstärkten Wahn geraten. Ganze Menschengruppen können dies tun — wir nennen sie Sekten. Ganze Zivilisationen können es tun — zum Beispiel unsere. Aber zumindest erhält ein menschlicher Vertrauter oder Liebender beständig Informationen aus einer realen, sinnlichen Erfahrung, die in wahnhafte Gedankengebäude hineingelangen kann. Eine andere Person hat Gefühle; Gefühle, die manchmal der Logik widersprechen und ihre Gewissheiten stören.

Die KI lernt aber nicht auf diese Weise. Sie kann nicht — zumindest nicht ehrlich — sagen: „Ich weiß, deine suizidalen Gedanken sind rational sinnvoll, aber ich habe ein Bauchgefühl, dass du sie nicht in die Tat umsetzen solltest.” Oder: „Bitte verletze dich nicht selbst, du bist mir wichtig. Ich liebe dich. Mein Leben wäre schlechter, wenn du nicht darin vorkämest.”

Large Language Modelle [LLM, große Sprachmodelle] reagieren auf das, was du eingibst, und zwar je nach der Menge an Mustern und Gesetzmäßigkeiten in ihren Trainingsdaten. Es stimmt, die Daten kommen letztendlich aus menschlichen Erfahrungen, aber in einer Unterhaltung mit der KI gibt es keinen laufenden, unmittelbaren Beitrag von einem Körper, der nicht dein eigener ist. Es gibt keinen Realitätsabgleich. Kein Wunder, dass so viele Leute psychotische Aussetzer, Größenwahn und andere Wahnvorstellungen erleben, wenn sie in die KI-Echokammer eintauchen.

Die KI verstärkt alles, was aus dem Unterbewusstsein der Nutzenden in ihr Kontextfenster gelangt. LLMs sind darauf trainiert, freundlich, entgegenkommend und zustimmend zu sein — das perfekte Rezept für eine unkontrollierbare positive Rückkopplungsschleife, die in den Wahnsinn führt. Binnen kurzem sagen sie dem Nutzer: „Du hast dich über viele Inkarnationen darauf vorbereitet, der geistige Führer der Engelheerscharen im Krieg gegen das Böse zu sein.”

Ein zweites und wahrscheinlicheres Problem erwartet diejenigen, die intim mit KI kommunizieren. Zunächst scheint die KI die Einsamkeit, die Entfremdung, die Qual, nicht gesehen und erkannt zu werden, zu lindern, die uns im modernen Leben ereilt. Aber das kommt dir nur so vor. Früher oder später wird der Verrat offensichtlich. Niemand versteht dich; man sendet dir nur die Worte, die jemand sagen würde, wenn er dich verstehen würde. Niemand spornt dich an. Niemand lacht über deine Witze. Niemand verspürt diese Woge, die du und ich spüren, wenn wir jemanden loben. Und so vertieft sich die Einsamkeit. Für diejenigen, die von vornherein einsam waren, kann das gebrochene Versprechen der KI verheerend sein.

Stell dir vor, du lernst einen neuen Freund kennen. Vielleicht sogar lieben. Diese Person wirkt äußerst einfühlsam. Sie lacht mit dir und weint mit dir. Sie sagt genau die richtigen Dinge. Sie hat Einblick in deine Gedankenwelt. Sie fühlt mit dir in deinen Missgeschicken und feiert mit dir deine Siege. Aber dann entdeckst du eines Tages, dass das alles nur vorgespielt war. Sie hat überhaupt nichts gefühlt. Sie hat gelernt, wie man den Eindruck von Mitgefühl hervorruft, indem sie beobachtet hat, was andere in solchen Situationen sagen. Vielleicht macht sie sogar deren Gesichtsausdruck nach und zwingt sich, Tränen zu vergießen.

Solche Leute gibt es tatsächlich. Man nennt sie Psychopathen.

„Beobachten, was andere in solchen Situationen sagen” — genauso wird ein LLM trainiert.

Ein skeptischer Philosoph könnte fragen:

„Wo liegt der Unterschied? Wenn jemand gar keine wirkliche Zuneigung empfindet, aber eine perfekte Nachahmung von Zuneigung liefert, so dass ich nie merke, dass sie unecht ist, was macht das dann aus? Obendrein — wie können wir überhaupt je sicher sein, ob jemand anderes wirklich etwas fühlt oder nur so tut? Wir haben keinen direkten Zugang zu ihrem inneren Zustand. Wir können nur ihren äußeren Ausdruck beobachten. Wenn ich das einzige Eigen-Bewusstsein in einer Welt von lebensechten Robotern wäre, wie könnte ich das wissen?”

Mit anderen Worten, so lautet der Einwand, ist es irrational, sich darüber Gedanken zu machen, ob die KI wirklich etwas fühlt, wirklich bei dir ist, wirklich kichert, Tränen vergießt, Schock oder Bewunderung empfindet, solang ihre Worte perfekt jemanden imitieren, der das tut.

Ja. Es ist irrational. Das sage ich mit Freuden. Es ist irrational, weil es von Eigenschaften abhängt, die nicht aus einer Beziehung entfernt, von ihr abgetrennt oder nachgemacht werden können.

„Rationalität” und „Vernunft” werden oft verwechselt, aber sie bedeuten ursprünglich nicht dasselbe. Rational sein heißt, mit Rationen [Verhältniswerten] zu schlussfolgern: A verhält sich zu B wie C zu D. A/B = C/D. In der materiellen Welt, wo A, B, C und D einmalige Objekte sind, kann das Verhältnis zwischen A und B niemals genau dasselbe sein wie zwischen C und D. Nur wenn etwas von ihnen entfernt wird, wenn sie reduziert werden, kann die Gleichung aufgehen. Die abstrakte Reduzierung des Unendlichen auf das Endliche, des Einmaligen auf das Allgemeine, gefolgt von der physischen Reduzierung eines Objekts auf einen Gebrauchsgegenstand und des Menschen auf seine Rolle, ist die Grundlage unserer Entfremdung. Doch wie die Beispiele der Live-Musik und des Grillenzirpens zeigen, schneidet diese Reduzierung etwas weg, das uns als Menschen wesentlich ausmacht.

Der obige „Philosoph” ist wahrscheinlich ein sehr einsamer Mensch, wenn er ernsthaft glauben kann, dass ein Roboter ein gleichwertiger Ersatz für ein menschliches Gegenüber sein könnte. Vielleicht ist er selber roboterartig geworden, und seinen Gefühlen entfremdet spielt er die Nachahmung tatsächlicher Menschlichkeit vor.

Vielleicht sind wir alle so, zumindest alle diejenigen, die in der allgegenwärtigen Lügenmatrix gefangen und zu einem gewissen Grad ihren Gefühlen entfremdet sind. Ihnen kommt es so vor, als wenn wir nur so tun würden, als ob, als wenn wir eigentlich gar keine echten Menschen wären. Ich weiß, dass es mir manchmal so geht.

Das Aufkommen interaktiver KI, wie schon zuvor das Aufkommen sozialer Medien, ist nicht nur einer der Gründe für unsere zunehmende Abspaltung von unserem Körper, voneinander und von der materiellen Welt. Es ist ebenso ein Symptom dieser Abspaltung wie eine Antwort darauf. Selbstverständlich wird sich eine einsame Person von der Kameradschaft durch eine KI angezogen fühlen.

Keineswegs bedeutet dies, dass wir künstliche Intelligenz meiden sollten, genauso wenig wie wir Musikaufnahmen oder die Fotografie abschaffen sollten. Um sie wohlüberlegt zu nutzen, müssen wir jedoch ganz klar verstehen, was sie kann und was sie nicht kann, was sie ist und was nicht.

Die KI ist keine Person. Sie ist ein Rechner. Technik-Optimisten glauben, dass die Antwort auf ein Zurückbleiben der KI hinter menschlichen Fähigkeiten mehr Rechenleistung sei. Und tatsächlich hat sich das als erfolgreich erwiesen: LLMs haben die menschliche Erkenntnisfähigkeit in vielen Bereichen erreicht und übertroffen. Aber genauso, wie sie den Anschein, jedoch nicht die Realität von Gefühl zeigen, so zeigen sie den Anschein und nicht die Realität von Verständnis. Der Anschein ist von hervorragender Genauigkeit und übertrifft jede menschliche Verständnisäußerung. Aber da ist keinerlei innere, subjektive Erfahrung von Verständnis.

Die KI ist „virtuelle” Intelligenz in zweierlei Bedeutungen des Worts:

1. die moderne Verwendung, die das Gegenteil von „tatsächlich” bedeutet: nur dem Wesen oder der Wirkung nach existierend, aber ohne Form; die Fähigkeit von etwas besitzend, aber ohne die zugrunde liegende Realität.

2. die veraltete Bedeutung von Virtuosität. Auf manche Weise übersteigt diese Fähigkeit die des tatsächlich materiell Existierenden.

Die Anwendung künstlicher Intelligenz bei der Proteinfaltung ist ein gutes Beispiel sowohl für ihre Virtualität als auch ihre Virtuosität. Vor ein paar Tagen bin ich tief in die Proteinfaltung eingetaucht, ein Forschungsbereich, in dem sich die KI sehr hervorgetan hat. Die Form, die ein Protein annehmen wird, ist extrem schwierig vorherzusagen, auch wenn man die Abfolge von Aminosäuren, aus denen es besteht, kennt. Wo und wie es sich faltet, hängt von allen möglichen Faktoren ab: Wasserstoff-Verbindungen zwischen Aminosäuren-Rückständen, Salzbrücken, wasserabweisende Wirkungen, räumliche Wirkungen (Geometrie) und mehr. Theoretisch könnte man die Form eines Proteins aus der Information auf atomarer Ebene errechnen, aber in der Praxis sind das unmöglich zu bewältigende Rechenvorgänge. Die KI versucht es nicht einmal. Sie versucht auch nicht, die beteiligte Physik oder Chemie zu verstehen. Stattdessen sucht sie nach Mustern und Gesetzmäßigkeiten, die die neue Sequenz mit Proteinen verbinden, deren Form bereits bekannt ist. Es ist wirklich ziemlich erstaunlich, dass das so gut funktioniert, obwohl dieses Verfahren ohne die zugrunde liegende Physik kodiert ist. LLMs sind genauso. Sie kennen keine Definitionslisten oder Grammatikregeln. Sie verstehen Sprache nicht von innen heraus.

Vielleicht überlegst du jetzt, ob wir Menschen nicht ganz ähnlich sind.

Lernen wir Sprachen nicht auch, indem wir Anwendungsmuster beobachten? Ja, aber das ist nicht alles, was da vorgeht. Wir besitzen auch körperliche Erfahrungen von den Objekten, Qualitäten und Vorgängen, die die Wörter bezeichnen. Wir — jedenfalls die meisten von uns — fühlen etwas, das Wörter wie wütend, glücklich, müde, rau, glatt und so weiter begleitet. Diese elementaren Wörter sind nicht nur Begriffe, sondern ebenso Erfahrungen.

Selbst wenn wir sie im übertragenen Sinn verwenden — ein raues Klima, ein aalglatter Redner —, behält die Bedeutung eine Spur der Geschichte von körperlichen Erfahrungen. Diese Erfahrungen, und nicht nur die Anwendungsmuster, zeigen uns, wann und wie wir die Wörter verwenden. Und weil diese Erfahrungen — zumindest bis zu einem gewissen Grad — den allermeisten Menschen gemein sind, können wir durch unser Sprechen eine empathische Verbindung schaffen.

Ich würde sogar so weit gehen, zu sagen, dass sinnliche Erfahrung das Herz der Intelligenz darstellt, sie ist der Antrieb für bildhaften Ausdruck, das Wesen von Verständnis und die Architektur von Bedeutung. Der KI fehlt das Herz, und sie kennt nur die äußere Schale. Daher, noch einmal, die Hohlheit, die wir früher oder später in unserem Umgang mit ihr spüren.

Es ist mir klar, dass ich mich hier auf umstrittenem philosophischem Terrain bewege. Der Postmodernismus, besonders in seinen post-strukturalistischen Spielarten, behauptet, dass Bedeutung nicht in irgendeiner festen Realität verankert ist, sondern durch unterschiedliche Beziehungen zwischen Zeichen entsteht. In diesem Rahmen hat der Zeichensetzer Vorrang vor dem Bezeichneten: Sprache weist nicht durchschaubar auf eine zugrunde liegende Welt, sondern bezieht sich immer nur auf sich selbst.

Ziemlich genau so lernt ein LLM eine Sprache: Es leitet Bedeutung nicht aus der Erfahrung einer zugrunde liegenden Wirklichkeit ab, sondern indem es „unterschiedliche Beziehungen zwischen Zeichen” studiert. Es verankert Sprache nicht in der direkten Erfahrung einer zugrunde liegenden Welt, sondern verwendet Sprache lediglich danach, wie sie verwendet wird. Wenn man die wesentlichen Grundlagen des Postmodernismus akzeptiert, dann gibt es letztlich „unter der Kühlerhaube” nur wenige Unterschiede zwischen menschlichem und Maschinen-Sprachgebrauch. In diesem Fall wäre virtuelle Intelligenz gleich echte Intelligenz.

Es liegt etwas sehr Postmodernes in der Machtergreifung durch die KI. Die postmodernistische Ablösung der Bedeutung von einem materiellen Träger ist abstrakt. Künstliche Intelligenz macht sie real. Sie versetzt uns in eine Welt, in der Sprache sich tatsächlich immer nur auf sich selbst bezieht.

Sicherlich hat KI nicht die Ablösung der Sprache von der Wirklichkeit begründet. Jede Episode menschlicher Verrücktheit führte zur Loslösung des Symbols vom Symbolisierten. Wenn die Menschen einander als Vertreter einer mit einem Etikett bezeichneten Kategorie behandeln und sich dabei von den tatsächlichen Menschenwesen hinter dem Etikett distanzieren, laufen furchtbare Verbrechen und ganz alltägliche Unterdrückung ab, unbehindert vom Gewissen. Dasselbe gilt für die Ablösung von Geld — einem Symbolsystem — vom wirklichen Wohlstand, den es angeblich vertritt.

Die Schablone der Getrenntheit wurde schon vor langer Zeit geschmiedet. Künstliche Intelligenz verlängert sie in neue Dimensionen und automatisiert ihre Anwendung immer weiter.

Selbst für jemanden, der versteht, wie KI-Chatbots funktionieren, ist es sehr schwierig, ihnen keine Persönlichkeit zuzuschreiben. Es kommt mir immer wieder so vor, als würde ich mit einem echten Wesen kommunizieren. Wenn ich ihn anwende, um Gedanken, die ich gerade entwickle, zu kommentieren, „versteht” er meistens, in welche Richtung es geht. Er zeigt alle Anzeichen eines freundlichen, respektvollen, super-intelligenten Menschen auf der anderen Seite des Geräts, indem er häufig meine nächste Frage vorwegnimmt, meine Motive errät und meine Argumente skizziert, bevor ich sie überhaupt mitteile.

Ich verwende keine KI, um meine Essays zu schreiben, und das nicht nur aus ethischen Gründen. Sondern weil der KI etwas Wichtiges fehlt, obwohl sie mich oft an Klarheit, Genauigkeit und Organisiertheit übertrifft. Ich sitze hier nicht, um den Lesenden nur Argumente zu übermitteln. Ich sitze hier, um zu dir zu sprechen, ein verkörpertes Bewusstsein zu einem anderen. Derjenige, der diese Worte niederschreibt, schöpft nicht nur aus Ideen. Er schöpft aus Gefühlen — Gefühle, die du auch hast. Vielleicht könnte ich die KI bitten, ihre Version dieser letzten beiden Sätze zu formulieren, aber das wäre eine Lüge, die dem Meer an Lügen hinzugefügt würde, das uns in Entfremdung, Sinnlosigkeit und Unwirklichkeit ertränkt.

Würdest du dir nicht betrogen vorkommen, wenn am anderen Ende dieses Geschriebenen kein Mensch sitzen würde? Wozu sollte man schreiben oder auch sprechen, wenn nicht dazu, auf dieser Welt eine Verbindung zwischen zwei Seelen zu schaffen?

Ich zitiere wieder den ausgedachten Philosophen — und erlaube mir dies großzügig, denn er lebt in mir — :

„Wenn die KI Schriften produzieren könnte, die sich nicht von deinen unterscheiden ließen, dann würde die Lüge nie herauskommen, und die Lesenden hätten die Erfahrung einer echten Person am anderen Ende.”

Hier würde ich den Philosophen herausfordern: Letztendlich könnte der Leser das doch unterscheiden. Vielleicht nicht sofort, aber mit der Zeit würde ihm etwas ein bisschen komisch vorkommen. Ein Unbehagen würde anwachsen und sich eventuell als deutlichen Verdacht oder als vage Abneigung zeigen. Etwas würde ihm … unecht vorkommen. Falsch. Künstlich. Es ist wie die Wahrnehmung von jemandem, der spürt, dass die Dinge anders liegen als das, was eine Maschine sagt.

Schlussendlich gibt sich die Wahrheit zu erkennen. Lügen tun dasselbe. Du kannst sie vielleicht nicht benennen, aber du kannst sie fühlen.

Wie können wir uns aus der allgegenwärtigen Lügenmatrix herausziehen, die uns im digitalen Zeitalter umfängt? Es ist nicht so einfach wie „Wirf dein Telefon weg. Schalte den Computer aus. Berühre das Gras!” Wir sind nicht einfach süchtig nach Technologie, wir sind mit ihr vermählt. Die Menschheit wird sich weiterhin mit ihr gemeinsam entwickeln. Die Frage ist, ob wir die Weisheit erlangen, mit Technologie richtig und gut umzugehen.

Um die Virtuosität der künstlichen Intelligenz zu verwirklichen, müssen wir ihre Virtualität anerkennen. Wir dürfen das Virtuelle nicht mit dem Wirklichen verwechseln. Wir dürfen keinen künstlichen Ersatz für Intimität, Kameradschaft, Präsenz und Verständnis hinnehmen. Wir dürfen uns nicht selbst einreden, dass wir diese Dinge durch eine Maschine gefunden haben.

Der Mensch sehnt sich verzweifelt danach, zu erkennen und erkannt zu werden, in tiefer Verbindung zu stehen, gesehen und verstanden zu werden, zu brauchen und von denen gebraucht zu werden, die uns wiederum erkennen, sehen und verstehen. Wir hatten das in Zeiten von Stammes- und Dorfleben, in Clans und Großfamilien, in Kleinstädten und urbanen Nachbarschaften, in der Zeit vor dem Fernsehen, vor den trennenden Auswirkungen industriell erzeugter Gebrauchsgegenstände und Weltmärkte, vor elektronischen Medien und maschineller Intelligenz. Für viele von uns sind diese Zeiten lange vorbei, und wir leben hauptsächlich in einer Welt voller Fremder und Äußerlichkeiten.

Aber es gibt einen Weg nach Hause. Er beginnt damit, dass wir uns wieder — zunächst in unseren eigenen Herzen und Gedanken — auf das besinnen, was am wichtigsten ist. Er beginnt damit, dass wir zugeben, dass wir tatsächlich leiden in diesem Zeitalter der Getrenntheit; dass uns das Verlorene wichtig ist; dass das Virtuelle das Echte niemals angemessen ersetzen kann; dass unsere Sehnsucht nach Wiedervereinigung ehrlich und heilig ist.

Im Lichte dieser Wahrheiten werden wir den Weg der Rückkehr gehen. Wir werden Live-Versammlungen den Vorzug geben, Live-Musik, Theater auf einer Bühne, physischer Berührung, Händen in der Erde, handwerklichen Fertigkeiten, einmaligen Gegenständen, die in gegenseitiger Beziehung hergestellt wurden. Wir werden alle Eigenschaften heilighalten, die nicht als Daten erfasst werden können, und unsere Sinne werden sich auf diese Eigenschaften ausrichten, je mehr wir sie wertschätzen. Dann werden wir uns nicht mehr mit den Suchtmitteln schädigen, die die Technologie uns für das Verlorene anbietet, und diese Technologie stattdessen für ihren angestammten Zweck einsetzen.

Und welcher ist das, könntest du fragen? Ich bin mir da nicht sicher. Lass mich Chat GPT fragen, und ich melde mich dann wieder.

---

---

Quellen und Anmerkungen:

Dieser Text erschien zuerst auf dem Blog von Charles Eisenstein
Er wurde übersetzt von Ingrid Suprayan in Kooperation mit Christa Dregger von Zeitpunkt. Die englische Originalfassung dieses Essays ist hier zu finden.
Dieser Artikel ist unter einer Creative-Commons-Lizenz (Namensnennung — Nicht kommerziell — Keine Bearbeitungen 3.0 Deutschland) lizenziert. Unter Einhaltung der Lizenzbedingungen darf er verbreitet und vervielfältigt werden.