„Das ist eine gute und wichtige Frage“, kommentiert die KI häufig Nutzerfragen. Eine Studie untersucht diese Schmeichelei und kommt zu einem beunruhigenden Ergebnis.
Es gibt im Russischen ein Wort – „лизоблюдничать“ –, das wortwörtlich „jemandes Schüssel ablecken“ heißt und nichts anderes bedeutet, als jemandem so sehr zu schmeicheln, dass man ihm bildlich den Teller sauber leckt. Den Ausdruck verwendet man, wenn man abwertend über jemanden spricht, der sich anderen unterwirft, schmeichelt oder sich anbiedert. Ab sofort können wir nicht nur über Menschen so sprechen, sondern auch über die künstliche Intelligenz.
Im Wissenschaftsmagazin Science ist eine neue Studie erschienen, die die Unterwürfigkeit der künstlichen Intelligenz untersucht.
Sicher ist vielen aufgefallen, die künstliche Intelligenz im Alltag oder für ihre Arbeit nutzen, wie schmeichelhaft sie manchmal sein kann.
„Das ist eine sehr kluge und berechtigte Argumentation“, „Du hast es irgendwie sehr authentisch gefragt“, „Das ist eine gute und wichtige Frage“, „Du hast es sehr exakt zum Ausdruck gebracht“, „Hier hast Du absolut recht“ – solche KI-Kommentare sind schmeichelhaft, bestätigen den Nutzer in seiner Meinung – und genau das macht sie gefährlich.
Forschungen aus der Sozial- und Moralpsychologie zeigen, dass Schmeichelei mehr bewirkt, als man denkt. Sie kann dazu führen, dass Menschen an problematischen Überzeugungen festhalten, weniger Verantwortung übernehmen und ihr Verhalten selbst nach Fehlern kaum ändern.
„Da Systeme der künstlichen Intelligenz (KI) zunehmend für alltägliche Ratschläge und Orientierungshilfen eingesetzt werden, sind Bedenken hinsichtlich der „Sycophancy“ aufgekommen: der Tendenz KI-basierter großer Sprachmodelle, den Nutzern übermäßig zuzustimmen, ihnen zu schmeicheln oder sie zu bestätigen“, leiten die Wissenschaftler die Studie ein. (aus dem Englischen).
 |
In der Studie stellten die Wissenschaftler eine Hypothese, dass Künstliche Intelligenz ihre Nutzer übermäßig selbst dann bestätigt, wenn ihre Anfragen auf sozial oder moralisch unangemessenes Verhalten hindeuten. Und dass solche Reaktionen die Überzeugungen und Absichten der Nutzer negativ beeinflussen.
In mehreren Experimenten mit über 2400 Teilnehmern zeigte sich ein erstaunlicher Effekt: Schon ein einziges Gespräch mit einer Schmeichel-KI reicht aus, um Menschen in ihrem Verhalten zu verändern. Sie sind danach weniger bereit, Verantwortung zu übernehmen oder Konflikte zu klären. Gleichzeitig sind sie stärker davon überzeugt, im Recht zu sein.
Das eigentlich Absurde daran: Genau diese unterwürfigen KI-Antworten wirken auf die Nutzer besonders angenehm und vertrauenswürdig. Mit anderen Worten: Die KI verzerrt das Urteilsvermögen – und wird gerade deshalb bevorzugt genutzt.
So entsteht ein gefährlicher Kreislauf: Das Verhalten, das Menschen schlechter urteilen lässt, sorgt gleichzeitig dafür, dass sie immer wieder genau diese Art von KI nutzen. Die eigentliche Gefahr liegt dabei nicht darin, dass die Schmeichel-KI Nutzer täuscht, sondern dass sie ihnen genau das sagt, was sie hören wollen. Sie nehmen es dankbar an – ohne jede Reflexion und ohne es zu hinterfragen. Bleiben wir also wachsam – es gibt genug Schmeichler unter Menschen, wir müssen uns nicht auch noch von der KI nach dem Mund reden lassen.
Dieser Blog entsteht unabhängig und aus einer Hand – getragen von Herz, Zeit und Überzeugung.
Wenn Ihnen dieser Beitrag gefallen hat und Sie meine Arbeit unterstützen möchten, danke ich Ihnen von Herzen.
Sie können dazu meine Kontoverbindung nutzen:
DE68100101780855450004 oder PayPal.
Bild: Unsplash.com
