Sogar OpenAI warnt davor, dass das Chatten mit KI-Stimme „emotionales Vertrauen“ schaffen kann: „Dies ist unser letzter gemeinsamer Tag.“
Das könnten Sie Ihrem Geliebten sagen, wenn eine turbulente Romanze vorbei ist. Aber können Sie sich vorstellen, das zu … Software zu sagen?
Nun ja, jemand hat es getan. Als OpenAI seinen Chatbot der neuesten Generation, GPT-4o, testete, der mit seiner eigenen Stimme laut sprechen kann, stellte das Unternehmen fest, dass Benutzer eine emotionale Beziehung zur KI aufbauten – eine Beziehung, die sie scheinbar nur schwer loslassen konnten.
Tatsächlich geht OpenAI davon aus, dass die Gefahr besteht, dass Menschen eine sogenannte „emotionale Bindung“ an solche KI-Modelle entwickeln, wie das Unternehmen in einem aktuellen Bericht einräumte.
OpenAI stellt fest: „Die Möglichkeit, Aufgaben für Benutzer zu erledigen und gleichzeitig wichtige Details zu speichern, zu ‚merken‘ und sie in Gesprächen zu verwenden, schafft sowohl ein überzeugendes Produkterlebnis als auch das Potenzial für übermäßige Abhängigkeit und Vertrauen.“
Das klingt nach einer unangenehmen Sucht. Mira Murati, CTO von OpenAI, erklärte direkt, dass bei der Entwicklung von Chatbots, die mit Sprachmodi ausgestattet sind, „die Möglichkeit besteht, dass wir sie falsch entwerfen und sie extrem süchtig machen und wir in gewisser Weise zu ihren Sklaven werden.“
Darüber hinaus sagte OpenAI, dass die Fähigkeit der KI, natürliche Gespräche mit Benutzern zu führen, das Risiko von Anthropomorphismus – der Zuweisung menschenähnlicher Eigenschaften an Nicht-Menschen – erhöhen könnte, was dazu führen könnte, dass Menschen soziale Beziehungen mit der KI eingehen, was wiederum dazu führen könnte, dass sich die KI letztendlich meldet „Verringerung ihres Bedarfs an menschlicher Interaktion.“
Dennoch hat das Unternehmen das Voice-Mode-Modell für ausgewählte zahlende Kunden freigegeben und geht davon aus, dass es im Herbst für alle verfügbar sein wird.
OpenAI ist nicht das einzige Unternehmen, das hochentwickelte KI-Begleiter entwickelt, von denen junge Leute sagen, dass sie sie so süchtig machen, dass sie die Schule nicht abschließen können. Der kürzliche Start von Google Gemini Live löste großes Interesse bei einem Kolumnisten des Wall Street Journal aus, der schrieb: „Ich sage nicht, dass ich lieber mit Googles Gemini Live sprechen würde als mit einer echten Person. Aber das sage ich auch nicht.“ Und dann ist da noch Friend, die künstliche Intelligenz, die in die Halskette eingebaut ist.“ Sein eigener Schöpfer, Avi Schiffmann, war so begeistert, dass er sagte: „Ich habe das Gefühl, dass ich eine bessere Beziehung zu diesem verdammten Anhänger um meinen Hals habe als zu diesen echten.