Wenn KI… kreativ wird (und nicht im guten Sinne)

Es begann, wie die meisten Tage beginnen: mit ungesunden Mengen Kaffee, Kalendern und einer leisen Portion Optimismus. Unser Morgenmeeting lief angenehm vor sich hin; dieser vertraute Rhythmus aus „Was steht heute an?“, lockerem Geplauder und der subtilen Illusion, dass wir den Tag tatsächlich im Griff haben. Aufgaben wurden verteilt, Prioritäten gesetzt, und irgendwo zwischen „Quick Wins“ und „strategischen Initiativen“ landete eine scheinbar völlig harmlose Aufgabe bei mir:

Chris’ neuesten Blog promoten: „KI-Vegetarier oder überzeugter Hasser? Ein Leitfaden für Skeptiker“

Ein durchdachter Beitrag. Ein relevantes Thema. Eine Prise gesunder Skepsis in einer ansonsten KI-durchdrungenen Welt. Alles sehr respektabel. Sehr… unskandalös. Sehr brav.

Also los. LinkedIn? Gepostet. Google Business Profil? Gepostet.

Tick, tick. Effizient. Produktiv. Musterbeispiel für Digital Marketing.

Natürlich widmete ich mich danach wieder anderen weltrettenden Tätigkeiten. Und dann; Teams-Benachrichtigung.

Chris: „WAS hast du getan?“

Ramona: „Ähm, einiges, aber da musst du schon etwas konkreter werden“

Chris: „Offenbar teilst du sexuell explizite Inhalte, einschliesslich Genitalnacktheit oder Darstellungen bzw. Beschreibungen sexueller Handlungen auf Google.“

Ramona: „👀 ICH mache WAS??? WIE BITTE???“

Chris: „Sag du’s mir“

‍

Ramona: „…“
Ramona: „… also gut… 🤔“

Nun.

Lassen wir das kurz sacken. Denn sofern ich nicht unbemerkt ein Talent für unterschwellige Skandale entwickelt habe (eine Fähigkeit, die ziemlich sicher nicht in meinem Lebenslauf steht), ist hier in dieser Ereigniskette… irgendetwas ganz gewaltig schiefgelaufen.

Der kuriose Fall des übereifrigen Algorithmus

Irgendwo tief im polierten, datenhungrigen Maschinenraum von Google Image Recognition wurde eine Entscheidung getroffen. Eine Entscheidung, die sich unseren völlig harmlosen Blogpost ansah und befand: „Ja. Das ist eindeutig unangemessen. Möglicherweise sogar sehr unangemessen.“

Nun, wir haben unsere Vermutungen und Theorien: Vielleicht ein falsch interpretierter visueller Eindruck? Ein Muster, das etwas ähnelte, das es nicht sollte? Ein Pixel zu mutig? Eine Form zu suggestiv? Oder einfach ein Modell, das… einen schlechten Tag hatte?

Aber die Wahrheit ist: Wir wissen es nicht. Und genau das ist der Punkt.

Eine kurze (und leicht ironische) Kritik

Es ist etwas leicht Absurdes und gleichzeitig ein wenig Besorgniserregendes an der Intransparenz von KI-Moderationssystemen.

Uns wird gesagt, dass diese Tools hochentwickelt sind. Dass sie Kontext verstehen. Dass sie Nuancen, Absichten und Bedeutungen unterscheiden können. Und hier sitzen wir nun, kratzen uns am Kopf (und kichern vielleicht ein bisschen zu viel), und trotzdem gilt:

• Ein professioneller Blogpost wird zu „explizitem Inhalt“.
• Ein Business-Update führt zu einem Content-Verstoss.
• Und die beteiligten Menschen schauen sich gegenseitig ratlos an.

Was genau passiert also unter der Oberfläche? Verstehen diese Systeme Inhalte wirklich, oder betreiben sie schlicht Mustererkennung im großen Stil und stolpern dabei gelegentlich über ihr eigenes Selbstbewusstsein? Und noch wichtiger:

• Sollten wir unsere Karriere überdenken?
• Wo verläuft die Grenze zwischen Vorsicht und Überreaktion?
• Wie können wir Entscheidungen hinterfragen oder überhaupt interpretieren, wenn Systeme keine Erklärungen liefern?
• Was bedeutet „Genauigkeit“, wenn False Positives unbemerkt Sichtbarkeit, Reputation oder Vertrauen verzerren können?
• Und vielleicht am wichtigsten: Wer trägt die Verantwortung, wenn der Algorithmus danebenliegt?

Denn auch wenn dieser Vorfall eher komisch als katastrophal wirkt, ist das zugrunde liegende Problem alles andere als trivial.

Fazit: Wenn die Maschine die Augenbraue hebt

Am Ende wurde kein Skandal aufgedeckt, kein versteckter Subtext enthüllt, ausser vielleicht, dass wir für unser Alter etwas zu leicht zu belustigen sind, aber das ist ein anderes Thema.

Was bleibt, ist ein leicht verwirrtes Team, ein markierter Beitrag, zu viele Lachanfälle (immerhin ein Pluspunkt) und die Erinnerung daran, dass selbst die fortschrittlichste KI manchmal Dinge sieht, die schlicht nicht da sind.

Und vielleicht ist genau das die eigentliche Erkenntnis: KI ist mächtig, beeindruckend und gelegentlich brillant. Aber sie ist nicht unfehlbar. Nicht kontextsensitiv wie wir Menschen. Und ganz sicher nicht immun gegen… kreative Fehlinterpretationen.

Bis auf Weiteres werden wir also weiterhin Blogs schreiben, Beiträge posten und den Maschinen vorsichtig vertrauen — mit einer kleinen Anpassung: Eine gesunde Portion Skepsis.

Und vielleicht… ein zweiter Blick auf unsere Bilder.