In unmenschlicher Gesellschaft

Der Schauspieler Calum Worthy ist mit einer Anzeige auf Twitter für die von ihm mitgegründete App „2wai“viral gegangen. Diese verspricht Nutzern die Möglichkeit, Aufnahmen eines geliebten Menschen hochzuladen, die in einen KI-Avatar umgewandelt werden, mit dem sie (selbst) Jahre nach dem Tod des geliebten Menschen weiterhin eine Beziehung mit diesem pflegen können.

Die App wurde im Juni (2025) unter dem diffusen Motto eingeführt, Schauspielern „die Kontrolle über ihre eigene Gestalt“ zu geben — „mit ihren eigenen Avataren, die KI dazu nutzen, ihre Stimme zu verstärken und nicht, um sie zu ersetzen“.

Fast unmittelbar darauf jedoch begann „2wai“ damit, diese Idee, einen geliebten Menschen als künstliche Intelligenz zu verewigen, mit Anzeigen zu bewerben. Im August (2025) zeigte ein Werbespot mit Worthy einen Mann, der mit einem „2wai“-Avatar namens „Mom“ sprach, der ihm sagte: „Du schaffst das, mach einen Schritt nach dem anderen“, während Worthy dem Publikum erklärte, dass die App dir „Hilfe, wenn du sie brauchst,“ ermöglichen kann.

Ich hasse das. Ich hasse das. Ichhassedasichhassedasichhassedasichhassedas.

Diese raffgierigen KI-Unternehmen versuchen, uns Nutzer davon zu überzeugen, dass erstens Chatbots Menschen sind und zweitens dass eine „Person“ nichts weiter ist als ein bestimmtes Aussehen mit bestimmten Sprachgewohnheiten.

Sie greifen die philosophischen und moralischen Grundlagen unserer Gesellschaft an, die sich über Jahrtausende menschlicher Zivilisation erstrecken, und zwar tun sie das für Geld.

Es handelt sich nicht nur um dieses Unternehmen. Nutzer von Figuren-KI, die ihr Konto zu löschen versuchen, erhalten Berichten zufolge eine Popup-Nachricht folgenden Inhalts: „Sind Sie sich sicher? Sie werden alles verlieren: Die mit Ihrem Konto verbundenen Figuren, Chats, die von uns geteilte Liebe, Likes, Nachrichten, Posts und unsere gemeinsamen Erinnerungen.“

Sie bestärken ihre Nutzer aktiv darin, ihre Chatbots als lebendige Menschen mit echten Gefühlen zu betrachten, um sie emotional an sich zu binden und sie nach ihrem Produkt süchtig zu machen.

Ihre Agenda ist sowohl kurz- als auch langfristig zutiefst destruktiv. Kurzfristig versuchen sie vorsätzlich, eine neue Art psychologischer Störung bei ihren Nutzern auszulösen, in deren Folge diese unter der Wahnvorstellung leiden, ein Computerprogramm sei ein echter Mensch. Langfristig besteht die Gefahr, dass sie das gesamte Verständnis unserer Gesellschaft davon, was ein Mensch ist, zunichte machen.

Was geschieht mit einer Gesellschaft, die beginnt, programmierbare Softwareprodukte nicht anders zu betrachten als menschliche Wesen? Was geschieht mit einer Gesellschaft, in der Elisabeth, die dreifache alleinerziehende Mutter, die gerade ihre Arbeit verloren hat, genauso viel wert ist wie Claire™ von RealHumanAI™ oder „Alice”, der Wichsbot, den so mancher Typ in seiner Besenkammer aufbewahrt?

Was geschieht, wenn eine Regierung, die ein Chatbot-Unternehmen mit einer kartellrechtlichen Maßnahme zerstört, mit einer Regierung gleichgesetzt wird, die Völkermord begeht? Was geschieht mit den Menschenrechten? Mit den Wahlrechten? Mit der Menschenwürde? Was passiert mit der Art und Weise, wie wir über uns selbst denken und fühlen — als Individuen und als Kollektiv?

Ich äußerte dies auf Twitter und jemand sagte zu mir: „Du liegst völlig falsch. Du hast einen winzigen, engstirnigen Geist und weil du ein solcher Kleingeist bist, ist dir noch nicht klar, dass ein KI-Verstand ein echter Verstand ist. Und diese Beziehungen können uneingeschränkt echte Beziehungen sein.“

“These will be embodied than actual robots and walking around on the streets very shortly within a year or two you need to start accepting that this is a new class of being and they are intelligent and do have thoughts of their own,” he added.

„Dieser wird sehr bald in echten Robotern verkörpert sein und innerhalb von einem oder zwei Jahren auf den Straßen herumlaufen. Du musst endlich akzeptieren, dass dies eine neue Art von Wesen ist und dass sie intelligent sind und eigene Gedanken haben“, fügte er hinzu.

Es geschieht also schon. Die Leute vermenschlichen diese Dinge bereits.

Ich bekam mit, wie jemand anders die „2wai“-Anzeige verteidigte und äußerte, sie verstehe nicht, warum Menschen diese gruselig fanden, weil sie selbst alles dafür geben würde, wieder mit ihrem Vater sprechen zu können.

Wie bitte? Versteht sie denn nicht, dass ein KI-Chatbot, der ein Bild hin- und herbewegt und es mit der Stimme ihres Vaters sprechen lässt, in Wirklichkeit nicht ihr Vater ist? Was genau glauben diese Freaks denn, was ein Mensch ist?

Ist ihre Auffassung von Menschsein wirklich so oberflächlich? Sehen sie andere Menschen wirklich nur als leere Abbildungen, die sich bewegen und Geräusche machen?

Ein Mensch ist nicht einfach nur eine Erscheinung mit einem bestimmten Gesicht, das mit einer bestimmten Stimme Geräusche macht und dazu neigt, sich auf eine bestimmte Art und Weise zu verhalten. Ein Mensch ist JEMAND. Ein bewusstes, denkendes, fühlendes menschliches Wesen mit Hoffnungen und Träumen und Ängsten und Leidenschaften. Ein menschlicher Organismus, der über unvorstellbar lange Zeiträume hinweg durch Vererbung und Evolution entstanden ist. Ein indigener Erdbewohner, der untrennbar mit der Gesamtheit der Biosphäre verwoben ist und mithilfe seiner Sinne, die genau für diese Umgebung geschaffen wurden, bei seinem Aufenthalt auf dieser Erde all ihre Schönheit und Wunder subjektiv erfährt.

Sie versuchen, uns dahingehend zu manipulieren, dass wir glauben, wir seien viel viel weniger, als wir (tatsächlich) sind, nur damit sie zu Milliardären und Billionären werden können. Sie greifen aus den dümmsten Gründen, die man sich vorstellen kann, unser Heiligstes an. Sie sind Feinde unserer Spezies. Wir müssen ihr Tun mit großer Abscheu ablehnen.

Es wird immer deutlicher, dass ein Großteil dessen, was generative KI bietet, lediglich in der Unterstützung der Vermeidung unangenehmer Gefühle besteht.

• Du magst die Trauer beim Verlust eines geliebten Menschen nicht fühlen?* Hier ist eine App, die einen Chatbot-Ersatz dieses Menschen liefert, sodass du so tun kannst, als sei dieser nie von dir gegangen.

• Das Schreiben deines eigenen Aufsatzes ist erkenntnismäßig unangenehm und du willst da nicht durch?* Lass die KI ihn schreiben.

• Du willst einen Freund, der deine Ideen immer gut findet und dir nie sagt, dass du Blödsinn redest?* Wir haben (hier) den perfekten Gefährten für dich.

• Du willst keinen Korb riskieren, wenn du dich mit einem Mädchen verabreden möchtest?* Verabrede dich mit diesem Chatbot, der nie ‚Nein‘ zu dir sagen wird.

• Du möchtest dir nicht die geistige und emotionale Mühe machen, eine neue Fähigkeit zu erlernen, eine gesunde romantische Beziehung aufzubauen oder ein Kunstwerk zu erschaffen?* Gen-KI hat die Lösung!

Sie ist ein digitaler Schnuller, der es den Nutzern ermöglicht, ihr ganzes Leben lang emotionale Kleinkinder zu bleiben, ohne je eine reife Beziehung mit unangenehmen Gefühlen entwickeln zu müssen.

Es ist die nächste Stufe von Dienstleistungen, die den Bewohnern der Dystopie dabei helfen soll, ihre Gefühle zu vermeiden und ihre Emotionen bis zum Koma zu betäuben, während die Welt vor die Hunde geht.

Aus dem gleichen Grund haben sie dafür gesorgt, dass Alkohol legal blieb, während sie psychedelische Drogen, die uns unsere Gefühle spüren lassen, verboten haben. Es ist auch der Grund dafür, dass sie uns mit so viel Fernsehen, Streaming-Plattfomen und sozialen Medien abfüllen, wie wir nur ertragen können.

Unsere Herrscher wollen, dass wir dumm, abgelenkt, leer und dissoziiert sind. Und mit Sicherheit wollen sie nicht, dass wir das Entsetzen, die Trauer und Wut spüren, die wir alle angesichts dieses Albtraums einer Zivilisation, den sie für uns entworfen haben, spüren sollten.

---

Redaktionelle Anmerkung: Dieser Text erschien zuerst unter dem Titel „AI Companies Are Encouraging Users To Believe Chatbots Are People, And It’s Insanely Creepy“ auf dem Blog von Caitlin Johnstone.. Er wurde von Gabriele Herb ehrenamtlich übersetzt und vom ehrenamtlichen Manova-Korrektoratteam lektoriert.