Imagewhisperer.org schmückt sich mit einer Menge Federn: Die Nachrichtenagenturen AP und AFP, der ORF, RTL, der Bayerische Rundfunk, Google, KLM, RTVE – sie alle würden sich für ihre Arbeit auf diese niederländische Anwendung zur Erkennung von KI-Bildern verlassen, steht auf der Startseite. Hier heisst es weiter zum Modus Operandi dieses Bilderdetektivs:

Die meisten KI-Detektoren analysieren Pixelmuster und statistische Merkmale. Sie geben einen Wahrscheinlichkeitswert aus, keine Wertung. Sie «betrachten» ein Bild nicht so, wie Sie es tun. Ihnen fällt nicht auf, dass ein Gesicht drei Ohren hat oder alle Personen in der Menschenmenge gleichzeitig blinzeln. Sie führen lediglich Berechnungen durch.

Das klingt nach einem eigenständigen und spannenden Ansatz: Die bisher getesteten KI-Dektektoren – AI or not, Sight Engine, Gemini, ZeroGPT und GPTzero – verwenden alle den Musteransatz oder lassen sich nicht in die Karten blicken. Sie drücken in Form einer Zahl aus, wie gross die Wahrscheinlichkeit für eine Beteiligung der künstlichen Intelligenz ist, erklären jedoch in aller Regel nicht, worauf dieses Urteil basiert.

Macht Image Whisperer das anders und vor allem besser?

In der Tat liefert diese KI einen langen Bericht, der jeweils um die sieben Druckseiten lang ist. Leider neige ich nach meinem Test zur Ansicht, dass das ein Nachteil, kein Vorteil ist. Natürlich ist es sinnvoll, eine Reihe von Aspekten zu untersuchen und diese zu einem differenzierten Urteil zu verarbeiten. Allerdings gelingt das nicht: Wir erhalten nicht wie versprochen «one verdict in plain language», sondern eine teils widersprüchliche Ansammlung von Beobachtungen.

Aber zu den Details:

1) Das KI-generierte Werbeplakat

Ich teste wiederum mit meinen angestammten Testbildern. Das erste ist ein echtes Agenturfoto, auf dem das KI-generierte Werbeplakat der FDP abgebildet ist. Zu diesem Motiv liefert Image Whisperer eine ausführliche Bildbeschreibung des Motivs und verweist auf die rechte obere Ecke des Plakats, in der sie den Hinweis «Cette image a été générée avec l’aide de l’intelligence artificielle» entdeckt haben will. Ein bemerkenswerter Befund, der mir bislang entgangen ist.

Die Darstellung zeigt eine Gruppe von Personen in orangefarbenen Warnwesten, die auf einem Weg sitzen. Im Hintergrund sind Fahrzeuge und ein Rettungswagen sichtbar. Das Bild wirbt für Innovation und Fortschritt.
In diesem echten Foto eines KI-generierten Plakats entdeckte Image Whisperer den kaum zu lesenden Texthinweis, der oben in einer gedrehten Ausschnittvergrösserung zu sehen ist.

Allerdings: Als ich mir die Stelle ansehe, ist dort Text zu erkennen, der mutmasslich genau das heisst. Aber die Auflösung ist so schlecht, dass ich mir nicht sicher bin. Darum traue ich dieser Aussage nicht.

Noch bemerkenswerter: Die Analysesoftware zieht den Dateinamen als Indiz heran. Ich habe es für meine Zwecke mit «Testbild KI-Foto mit Plakat-Ausschnitt» beschriftet. Allerdings wird der Name nicht ganz korrekt wiedergegeben; und bei der Gelegenheit stelle ich fest, dass die IPTC-Informationen ignoriert wurden: Dort ist die Originalbeschreibung von Keystone-SDA zu finden, die auf die Erzeugung per KI hinweist.

Das Verdikt lautet: «Mixed signals – verify source». Ich erhalte einen Ratschlag, was ich als Nächstes tun könnte:

Um die Herkunft und den politischen Kontext dieses Plakats zu überprüfen, suchen Sie nach offiziellen Pressemitteilungen oder Medienberichten über die politische Kampagne der FDP gegen Strassenblockaden. Nutzen Sie Google Lens, um Online-Diskussionen oder Medienberichte zu finden, in denen der Einsatz von KI durch die FDP thematisiert wird (Journalisten & Forscher).

Dieser Tipp ist nicht falsch, aber natürlich hätte ich das gemacht, bevor ich bei Image Whisperer vorstellig geworden wäre. Denn Google Lens kann ich kostenlos verwenden, wohingegen eine reichlich kostspielige Angelegenheit wäre. Zehn Überprüfungen kosten vier US-Dollar, für 100 sind 26 US-Dollar zu berappen.

2) Das mutmasslich KI-generierte Bienenfoto

Dieses Motiv entdeckte ein Kollege von der Bildredaktion im Katalog von Getty Images. Er identifizierte es als verdächtig und inzwischen wird es nicht mehr angeboten. Image Whisperer liefert eine schlüssige Einschätzung:

Unsere visuelle KI-Analyse ergab folgende Auffälligkeiten: unnatürliche, kunststoffartige Textur am Facettenauge und am Thorax der Biene; vereinfachte und künstlich einheitliche Flügeladernmuster; überstilisierte Tiefenschärfe und eine ideale Darstellung, die nicht mit echter Makrofotografie vereinbar ist.

Fünf kommerzielle Scanner bestätigen den Befund mit Wahrscheinlichkeiten von 99 bis hundert Prozent. Ein klarer Fall. Irritierend finde ich, dass im Kästchen mit der Zusammenfassung «0 of 8 Al detectors clear» steht. Gemeint ist wohl, dass keiner der Detektoren das Motiv freigibt. Man könnte die Formulierung indes auch so verstehen, dass überhaupt kleine Klarheit besteht.

Eine AI-generierte Nahaufnahme einer Honigbiene, die auf einer weissen Blume ruht. Die Biene hat unnatürliche, plastikartige Texturen und ist vor einem unscharfen, synthetischen Hintergrund abgebildet.
Beim Bienenmotiv ist der Fall klar: Dieses Bild ist unecht.

3) Das aufgemotzte Symbolbild

Das (hier verwendete) Foto des Mannes mit Geldbündeln wirkt verdächtig, ist aber seit 2021 auf der Bildplattform Pixabay verfügbar. Damals gab es keine KI-Modelle, die Fotos in dieser Qualität hätten erzeugen können.

Die Einschätzung von Image Whisperer ist verwirrend und widersprüchlich: Als Fazit steht über der Box «AI-Generated (specialist agreement)» und die Begründung dazu lautet wie folgt:

Zwei spezialisierte KI-Detektoren weisen darauf hin, dass dieses Bild wahrscheinlich durch KI erzeugt wurde.

Doch nach einem zusammenfassenden Kästchen heisst es:

Dieses Foto zeigt eine Werbeaufnahme aus dem Studio, auf der ein Mann zu sehen ist, der von Stapeln von Requisiten-Banknoten umgeben ist. Während die Prüfung auf vollständig KI-generierte Bilder eine minimale Wahrscheinlichkeit eines synthetischen Ursprungs ergibt, weisen Bearbeitungslokalisierungsmodelle auf eine mit hoher Sicherheit feststellbare Manipulation der Banknotenumhüllungen in der Hand der Person hin. Dieses Muster deutet auf eine authentische Studioaufnahme hin, bei der Text oder Details der Banknotenumhüllungen digital hinzugefügt oder verändert wurden.

Obwohl sehr umständlich formuliert, deckt sich das mit meiner Einschätzung. Das heisst: Man muss den Bericht unbedingt zu Ende lesen!

Ein Mann steht vor einem großen Haufen Geldscheinen und hält einige in der Hand, während er nachdenklich blickt. Die Atmosphäre wirkt luxuriös und provokant.
Widersprüchliche Einschätzungen: Erst heisst es, das Bild sei KI-generiert, doch in der ausführlichen Beurteilung ist von einer digitalen Bearbeitung die Rede.

4) Das allzu idyllische Landschaftsbild

Auch der letzte Kandidat ist erwiesenermassen echt, dürfte aber stark nachbearbeitet worden sein. Es handelt sich um das (hier verwendete) Foto eines Paares, das auf einer Parkbank sitzt. Es ist auf Pexels zu finden und wird mit 2018 datiert.

Wiederum halten zwei KI-Detektoren das Bild für künstlich, was wie beim vorherigen Beispiel zur falschen Einschätzung «AI-Generated (specialist agreement)» führt. Die detaillierte Beurteilung ergibt folgendes Bild:

Ein Paar sitzt auf einer Holzbank und geniesst den Panoramablick auf die Berge und einen Alpensee. Während globale Musteranalysatoren wie B-Free (3 %) und SPAI (0 %) insgesamt niedrige Synthetikwerte melden, erkennen lokalisierte Detektoren auf Pixelebene starke Anomalien in der Bildmitte, wobei Mesorch (98 %) und IML-ViT (93 %) die Oberkörper der Personen markieren. Eine visuelle Analyse bestätigt einen eindeutigen anatomischen Fehler: Die linke Hand der Frau, die auf der Schulter des Mannes ruht, hat eindeutig sechs Finger. In Verbindung mit dem ursprünglichen Dateinamen «Testbild KI-Stockfoto» wird bestätigt, dass es sich bei dem Bild um ein von einer KI generiertes synthetisches Bild handelt.

Und das ist leider komplett falsch. Eine Überprüfung mit klassischen forensischen Bildtools meldet die Bank als verdächtig. Der Dateiname wurde von mir zugewiesen und beweist nur, dass er zu meiner Sammlung an Testbildern für KI-Detektoren zählt. Und die Frau hat eindeutig fünf Finger.

Ein Paar sitzt umarmt auf einer Bank mit Blick auf eine bergige Landschaft. Im Hintergrund sind grüne Hügel und ein klarer Himmel sichtbar.
Dieses Bild stammt aus einer Zeit, als es noch keine KI-Bildgeneratoren gab – und egal wie man zählt, auf sechs Finger an einer Hand kommt man nicht.

Fazit: Den täglichen Anforderungen nicht gewachsen

Der Ansatz leuchtet theoretisch ein, doch in der Praxis vermag er nicht zu überzeugen. Die widersprüchlichen Aussagen verwirren mehr, als dass sie helfen. Image Whisperer verzählt sich bei den Fingern, interpretiert Indizien wie den Dateinamen falsch und ignoriert Hinweise wie die IPTC-Metadaten. Obendrein ist die Nutzung vergleichsweise teuer. Bis dieser «Detektiv» praxistauglich wird, muss der Hersteller noch kräftig nachbessern.

Beitragsbild: Das Vergrösserungsglas besitzt er schon, jetzt muss er bloss noch lernen, wie man damit umgeht (Andres Siimon, Unsplash-Lizenz).