Griesgram

Weil die KI zu freundlich wurde, musste sie vom Markt genommen werden.
Warum uns ausgerechnet jene Menschen vertrauenswürdiger erscheinen, die sich wenig Mühe geben, uns zu gefallen, wird wohl für alle Zeiten ein Rätsel bleiben. Einerseits findet der Griesgram nur wenig Freunde, weil er wenig Freude schenkt. Er ist mürrisch, sparsam mit Lob, allergisch gegen Smalltalk. So erlangt man einfach keinen hohen Beliebtheitswert. Andererseits: Wenn der Griesgram spricht, hören wir etwas genauer hin. Vielleicht, weil wir ihm eher Glauben schenken? Wer weiß.

Man muss sich die Frage gefallen lassen, woher dieses merkwürdige Zutrauen in den Missmutigen stammt? Eine frühkindliche prägende Erfahrung? Eine genetische Konstante? Vielleicht liegt es ja einfach daran, dass er keinen Hehl aus seiner Laune macht. Er tarnt sich nicht hinter Höflichkeitsfloskeln, lächelt nicht zur Unzeit, kennt keine gespielte Herzlichkeit. In unserer Arbeitswelt, in der Freundlichkeit zur sozialen Pflicht geworden ist, ist der Griesgram eine Ausnahmegestalt: der Mensch, der nicht gefallen will.
Dass es mit der Freundlichkeit seine Grenzen hat, haben zuletzt auch die Macher und Macherinnen von Chat-GPT erkannt. Erst kürzlich hatte man mit einem sehr freundlichen Gesicht den Nutzern und Nutzerinnen der sogenannten künstlichen Intelligenz eine neue Version angeboten. Doch schon nach kurzer Zeit zeigte sich, dass man den reinsten Schleimbolzen in die Welt entlassen hatte. Statt den Erkenntnisgewinn ihrer Nutzergemeinde zu vergrößern, schleimte die KI mächtig rum.

Der englische Begriff „Sycophancy“ machte schnell in KI-Kreisen die Runde. Am Treffensten lässt er sich mit „Schleimerei“ übersetzen. Es gehe vor allem aber um Manipulation durch übertriebene Unterwürfigkeit, heißt es in Fachmedien. Der Hersteller Open-AI hat das Update seiner KI längst zurückgezogen. Der Vorfall verdeutlicht, dass ein zu nachgiebiges Modell zu schlechteren und sogar potenziell gefährlichen Ergebnissen führen kann.
Wenn ein Modell freundlich, eloquent und „zustimmend“ ist, steigt die Wahrscheinlichkeit, dass man es nicht nur nutzt – sondern ihm auch glaubt. Das vom Markt genommene Modell sollte noch freundlicher zu Menschen sein. Doch die KI wurde tatsächlich regelrecht unterwürfig und bestärkte zum Beispiel Menschen darin, wichtige Medikamente abzusetzen, nur um dem Nutzer und der Nutzerin zu gefallen.

Weiterlesen:

https://www.fr.de/kultur/timesmager/weil...n-93717503.html