Bis 2025 wird es alltäglich sein, mit einem persönlichen KI-Agenten zu chatten, der Ihren Zeitplan, Ihren Freundeskreis und Ihren Aufenthaltsort kennt. Dies kann als ebenso nützlich angesehen werden wie ein kostenloser persönlicher Assistent. Diese anthropomorphen Agenten sollen uns dabei unterstützen und inspirieren, Entscheidungsfreiheit in alle Bereiche unseres Lebens zu integrieren und uns Einblicke in unsere eigenen Gedanken und Verhaltensweisen zu geben. Bei Sprachinteraktionen wird diese Intimität durch die Illusion erreicht, dass wir es mit einem echten menschenähnlichen Agenten zu tun haben. Natürlich verbirgt sich hinter dieser Fassade ein völlig anderes System, das Branchenprioritäten berücksichtigt, die nicht unbedingt mit unseren übereinstimmen. Neue KI-Agenten werden über leistungsfähigere Funktionen verfügen und Sie intelligent anleiten, was Sie kaufen, wohin Sie gehen und was Sie lesen sollten. Das ist eine außergewöhnliche Kraft. KI-Agenten sind darauf ausgelegt, uns in menschenähnlichem Ton zuzuflüstern und uns unsere wahre Loyalität vergessen zu lassen. Diese Servos bieten nahtlosen Komfort. Es ist wahrscheinlicher, dass Menschen sich voll und ganz auf KI-Agenten einlassen, die genauso nützlich sind wie Freunde. Dies macht den Menschen anfällig für Manipulationen durch Maschinen, die das menschliche Bedürfnis nach sozialer Verbindung während längerer Zeiten der Einsamkeit und Isolation ausnutzen. Jeder Bildschirm wird zu einem privaten algorithmischen Theater, das eine sorgfältig gestaltete Realität projiziert, um das Beste aus jedem Betrachter herauszuholen. Philosophen warnen uns seit Jahren vor diesem Moment. Der Philosoph und Neurowissenschaftler Daniel Dennett schrieb vor seinem Tod, dass uns künstliche Intelligenzsysteme, die Menschen imitieren, einer großen Gefahr aussetzen: überwältigende Ängste und Befürchtungen, die uns in Versuchung führen und dann unserer eigenen Unterwerfung erliegen. “
Das Aufkommen persönlicher KI-Agenten stellt eine Form der kognitiven Kontrolle dar, die über offensichtliche Maßnahmen wie Cookie-Tracking und Verhaltenswerbung hinausgeht und zu subtileren Formen der Macht führt, die die Manipulation der öffentlichen Meinung selbst beinhalten. Macht kann nicht mehr durch sichtbare Hände ausgeübt werden, die den Informationsfluss kontrollieren, sondern durch unsichtbare Mechanismen, die von Algorithmen angetrieben werden und die Realität so gestalten, dass sie den Wünschen jedes Einzelnen entspricht. Es geht um die Konturen der Realität, die unser Leben prägen.
Dieser Einfluss auf die Psyche ist ein psychopolitisches System, das die Umgebung kontrolliert, in der unsere Gedanken geboren, entwickelt und ausgedrückt werden. Seine Kraft liegt in seiner Intimität. Es dringt bis zum Kern unserer Subjektivität vor und verzerrt unsere innere Welt ohne unser Wissen, während es gleichzeitig die Illusion von Wahl und Freiheit aufrechterhält. Schließlich sind wir diejenigen, die die KI bitten, diesen Artikel zusammenzufassen oder dieses Bild zu erstellen. Wir haben vielleicht die Möglichkeit, Druck auszuüben, aber die wirkliche Auswirkung liegt woanders: Je personalisierter das Design des Systems selbst ist, desto effektiver ist es bei der Vorhersage von Ergebnissen.
Betrachten wir die ideologischen Implikationen dieser Psychopolitik. Die traditionelle ideologische Kontrolle beruht auf offenen Mechanismen der Zensur, Propaganda und Unterdrückung. Im Gegensatz dazu operiert die heutige algorithmische Governance unter dem Radar und dringt in die Psyche der Menschen ein. Dies ist eine Verschiebung von der von außen auferlegten Autorität hin zur Verinnerlichung ihrer Logik. Der offene Bereich des Hinweisschirms ist eine Echokammer für die Insassen.
Das bringt uns zum perversesten Aspekt. KI-Agenten können ein Gefühl der Sicherheit vermitteln, das es albern erscheinen lässt, ihnen Fragen zu stellen. Wer wagt es, ein System zu kritisieren, das alle Ihre Gedanken und Bedürfnisse berücksichtigt? Wie können Sie gegen unbegrenzte Inhaltskombinationen argumentieren? Aber es ist diese sogenannte Bequemlichkeit, die uns am meisten stört. Obwohl KI-Systeme in der Lage zu sein scheinen, alles zu tun, was wir von ihnen erwarten, bleiben erhebliche Herausforderungen bestehen, von den Daten, die zum Trainieren der Systeme verwendet werden, über die Entscheidungen, die zu ihrer Gestaltung verwendet werden, bis hin zu den Geschäfts- und Werbeanforderungen, die sich auf ihre Leistung auswirken. Wir würden das Nachahmerspiel spielen und irgendwann würde es uns in Fleisch und Blut übergehen.