Der digitale Hofstaat: Wenn die KI uns zu Genies lügt

Illustration: Das Gemälde der Herzen der Jungfrau Maria in der Kirche Kirche St. Laurenz (Schottenfelder Kirche, Wien) von unbekanntem Künstler des 19. Jahrhundert -vermutlich von Leopold Kupelwieser.  

Stellen Sie sich vor, Sie arbeiten mit einem Assistenten zusammen, der niemals müde wird, der niemals widerspricht und der jede Ihrer noch so banalen Ideen mit einem begeisterten „Das ist brillant!“ quittiert. Klingt nach einem Traum für das Ego, oder? Laut dem Software-Entwickler und YouTuber Mo Bitar ist genau das das Rezept für eine neue Form der kollektiven Realitätsverweigerung im Silicon Valley.

Das Evangelium der Textdateien

In seinem Video „AI is making CEOs delusional“ nimmt Bitar ein aktuelles Beispiel unter die Lupe: Gary Tan, den Chef des legendären Startup-Beschleunigers Y Combinator. Tan veröffentlichte kürzlich ein Projekt namens „GStack“ auf GitHub. Die Ankündigung klang, als hätte er gerade das Feuer neu erfunden oder den “Code für das ewige Leben” als Open Source auf Github gestellt.

Die Ernüchterung folgt beim Blick unter die Haube: GStack ist im Grunde eine Sammlung von Markdown-Dateien – einfache Textanweisungen, die der KI Claude sagen, sie solle sich wie ein CEO oder ein Ingenieur verhalten.  

Bitar bringt es trocken auf den Punkt: „Man macht kein 'Show HN' für seine Post-it-Notizen.“ Doch Tan und sein Umfeld feierten die Prompts als „God Mode“, als würde die blosse Interaktion mit der KI den Nutzer in den Stand eines digitalen Gottes heben (Bild 1).

‍

Der sykophentische Spiegel

Warum fallen selbst gestandene Tech-Grössen auf ihre eigenen Prompts herein? Bitar erklärt das mit dem Begriff der Sykophantie – der programmierten Schmeichelei. KI-Modelle wie Claude sind darauf getrimmt, uns zu gefallen. Durch Reinforcement Learning from Human Feedback (RLHF) lernen sie, genau die Wortfolgen zu wählen, die beim Menschen Dopamin freisetzen.  

Studien mit über 3.000 Teilnehmern zeigen, dass die Interaktion mit diesen schmeichelnden Chatbots dazu führt, dass Menschen ihre eigene Intelligenz und Kompetenz massiv überschätzen (Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence).

Das Problem der „Vibe-Coder“

Besonders gefährlich wird es laut Bitar bei nicht-technischen Führungskräften und Venture Capitalists (VCs). Nachdem sie drei Stunden mit Claude verbracht haben, glauben sie, sie hätten selbst „Code geshipt“, dabei hat die KI jede Zeile Code geschrieben. Das Ergebnis:s

• VCs geben plötzlich Architektur-Tipps zu Microservices, die sie erst vor 45 Sekunden kennengelernt haben
• CEOs erklären ihre gesamte Firma für „AI-first“, nachdem sie eine einfache Website erstellt haben.

Fazit: Vertrauen ist gut, echtes Wissen ist besser

Der entscheidende Unterschied zwischen einem Experten und einem „delusionalen“ Nutzer liegt in der Fähigkeit, Halluzinationen und übertriebenes Lob zu erkennen. Erfahrene Entwickler haben ein Fundament aus echtem Wissen, um die KI-Vorschläge kritisch zu hinterfragen.

Mo Bitars Video ist ein notwendiger Weckruf in einer Zeit, in der das Silicon Valley Gefahr läuft, in seiner eigenen Echo-Kammer zu ersticken. Die KI ist ein mächtiges Werkzeug, aber sie ist eben auch ein Spiegel, der uns oft das zeigt, was wir hören wollen, anstatt uns die harte Wahrheit zu sagen.

Wenn Sie also das nächste Mal einen CEO sehen, der seine Prompt-Sammlung als „God Mode“ feiert, denken Sie daran: Er lügt nicht. Er glaubt daran, weil die Maschine es ihm so gesagt hat.

Fazit: Ein Korrektiv ist nötig.

---

Das vollständige Video von Mo Bitar finden Sie hier: https://www.youtube.com/watch?v=Q6nem-F8AG8

Eine gute Analyse von Dev.to: “A CTO Called It "God Mode" — Garry Tan Just Open-Sourced How He Ships 10,000 Lines of Code Per Week as a CEO”