Das große KI-Kennzeichnungs-Desaster

Ab August 2026 gilt in der EU: Unternehmen, die KI-Generatoren anbieten, und Unternehmen, die sie einsetzen, müssen KI-generierte Bilder klar kennzeichnen. Es wird höchste Zeit für mehr Klarheit.

Ganz spontan: ist das hier KI oder nicht? 

Auflösung: Das Bild ist echt. (Danke an Marco Maas 🌎 LinkedIn.) Dass ich doch gezweifelt habe, liegt an zwei Dingen:

• zum einen am offensichtlichen Aufreger, der zu häufig ein Zeichen von Provokation/Trolling mit synthetischen Inhalten ist,
• zum anderen an dem kleinen „CR“-Symbol oben links in der Ecke. 

Dieses Symbol – CR steht übrigens für „🌎 Content Credentials“ – kennt man als LinkedIn-Nutzerin von den vielen, vielen, vielen, vielen mit KI generierten LinkedIn-Posts; es ist normalerweise eine Aufforderung zum Weglesen. Aber anders, als man meinen könnte, ist CR kein Qualitätssiegel für den Inhalt – sondern nur ein Siegel für die beigefügten Metadaten. Ein Klick zeigt Informationen, über die man erst einmal nachdenken muss: „Verwendete App oder verwendetes Gerät Google C2PA SDK für Android“.

Soll heißen: Das Logo kennzeichnet das Bild nicht etwa als fake oder echt, sondern es sagt: Bei diesem Bild kannst du nachschauen, woher es kommt. Was aus Nutzerinnensicht natürlich maximal irritierend ist: Ist das Bild, das da in meinem Scrollstream vorbeischwimmt, nun echt gewesen oder nicht? Egal. 

Dabei ist die Idee dahinter gar nicht so schlecht. 

Echte Bilder kennzeichnen statt KI? Gute Idee, aber…

Es ist kinderleicht, ein glaubwürdiges Bild mit KI zu erstellen oder zu manipulieren (KI-Fälschers Werkzeugkasten, Stand Februar, schon wieder veraltet). Wie soll man erkennen, was echt ist und was nicht? KI-Detektoren sind aus vielerlei Gründen keine Lösung, sie sind zu teuer, zu ungenau. Also gibt es schon seit vor Corona eine andere Idee: wenn wir nicht das kennzeichnen, was fake ist, sondern das, was nachweisbar echt ist? Wenn wir echte Bilder schon in der Kamera digital signieren und jeden einzelnen Bearbeitungsschritt transparent machen?

Diese Idee verfolgt seit mehr als fünf Jahren die 🌎 C2PA, ein Verband von Firmen, angeführt von Adobe. Und genau in diesem Satz stecken die beiden großen Probleme der Idee: (a) das Ganze ist de facto eine Solo-Veranstaltung einer Firma, die damit ihre Software verkaufen will, (b) die Idee kommt seit Jahren nicht aus dem Quark. Auch weil sie, wie oben beschrieben, aus Nutzerinnensicht ziemlich rätselhafte Antworten gibt. Nebenbei hat sie auch technische Schwächen; eine ziemlich schneidende Analyse des CR-Standards und der C2PA hat das 🌎 Hacker Factor Blog.

Qualitätssiegel für echte Bilder, und Kennzeichnung von KI-Bildern? Das eine tun, das andere nicht lassen. Und tatsächlich haben viele KI-Bilder schon eine unsichtbare, aber eindeutige Kennzeichnung

SynthID ist nicht gleich SynthID

Google baut in alle KI-Bilder und -Videos ein verstecktes Wasserzeichen namens SynthID ein, eine mathematische Kennzeichnung von KI-generierten Bildern. Ich überprüfe das so: Verdächtige Bilder zu Googles Chatbot Gemini hochladen und fragen: „Hat dieses Bild eine SynthID?“ Der Chatbot aktiviert dann ein Tool, das nach dem Wasserzeichen sucht. Und wenn Nano Banana oder Veo oder ihre Verwandten im Spiel waren, die Google-KI-Generatoren, dann erkennt und benennt der Chatbot das.

Das funktioniert übrigens auch mit Screenshots, zum Beispiel aus verdächtigen Youtube-Videos. Als ich für 🌎 „Die Frage“ von BR-Plus eine Fake-Moderatorin entlarven durfte, war das ein Indiz. 

SynthID für alle KI-Inhalte – das ist erst mal eine gute Idee. (Dass es inzwischen natürlich Tools gibt, mit denen man die SynthID aus einem Bild entfernen kann: geschenkt.) Ich habe mich jedenfalls gefreut, als ChatGPT-Anbieter OpenAI im Mai 🌎 verkündete: das machen wir auch.

Ein wenig habe ich mich über die Ankündigung gewundert; OpenAI ist geprägt von einer heftigen Rivalität zu Googles KI-Projekten, und der neue, verbesserte Bildgenerator in ChatGPT ist nicht zuletzt eine Reaktion auf Googles KI-Schwergewicht „Nano Banana“. 

Und tatsächlich: Das 🌎 Tool von OpenAI erkennt keine SynthID von Google. Die OpenAI-Implementierung ist nicht kompatibel. Der Marktführer hat es mal wieder verkackt. 

(Umgekehrt geht es übrigens wenigstens einigermaßen: Googles Tools finden Spuren des ChatGPT-Wasserzeichens selbst in Screenshots.)

Halten wir also n0ch einmal fest: Mit dem ChatGPT-Detektor erkennt man nur Bilder von ChatGPT. Mit dem Google-Detektor Bilder von Google-KI. Andere Bildgeneratoren wie Flux erzeugen erst gar keine digitalen Wasserzeichen. 

Letzte Hoffnung: KI-Labels von der EU

Es wird also höchste Zeit für die Kennzeichnungspflicht, die ja ohnehin an einer anderen Stelle ansetzt: bei uns Nutzerinnen und Nutzern. Der AI Act der EU verpflichtet die Anbieter (🌎 Haufe), schreibt aber keine Form vor; die KI-Labels, die die 🌎 EU-Kommission erstellt hat, sind also ein Vorschlag. Ich hoffe, dass er sich durchsetzt: die Labels springen einen an und sind unmissverständlich – anders als die kleinen Logos der KI-Generatoren in den Videos unten rechts, die viele Menschen einfach übersehen oder falsch verstehen. (Aktuelles Beispiel: 🌎 Linkedin-Post). 

Natürlich kann man so ein Label einfach abschneiden. Und natürlich werden moldawische Contentfabriken und AfD-nahe Propagandisten den AI Act und die Labels ignorieren.Aber darum geht es nicht. Es geht darum, dass die Frage vom Anfang – „Ist das KI oder nicht?“ – irgendwann keine Ratearbeit mehr ist. Und dass wir uns daran gewöhnen, dass wir einen Anspruch auf die Antwort haben. Wer sie trotzdem verweigert, hat sich schon verraten.