Künstliche Intelligenz ist längst Teil des Alltags und wird zunehmend auch für Betrugsversuche eingesetzt. Täuschend echte E-Mails, professionell gestaltete Webseiten oder KI-generierte Bilder lassen sich heute in wenigen Minuten erstellen. In der diesjährigen Sommerserie zeigt das BACS, wie Betrüger KI-generierte Bilder nutzen und woran sich Fälschungen erkennen lassen.

Künstliche Intelligenz (KI) gehört vielerorts bereits zum Alltag und hat sich zu einem mehr oder weniger nützlichen Arbeitswerkzeug entwickelt. Diese Entwicklung macht auch bei den Betrugsversuchen nicht halt. Betrügerische E-Mails sind mittlerweile in perfektem Deutsch, Französisch oder Italienisch verfasst. Perfekt gestaltete Webseiten, gefälschte Videos und Bilder und sogar Telefonkonferenzen, bei denen Personen imitiert werden, lassen sich mithilfe von KI in kürzester Zeit erstellen. Die diesjährige Sommerserie des BACS widmet sich dem Thema KI-generierte Bilder und deren Verwendung bei Betrugsversuchen. Der erste Teil behandelt die allgemeine Entwicklung der letzten Jahre. Der zweite Teil widmet sich dem Thema Texte und Webseiten, der dritte Teil thematisiert aktuelle Betrugsmethoden mit gefälschten Bildern. Abgeschlossen wird die Sommerserie mit einem Ausblick in die Zukunft.

Der Einsatz von generativer KI ist dabei von der traditionellen KI zu unterscheiden. Ein Spam-Filter im E-Mail-Programm ist auch bereits eine Form der künstlichen Intelligenz und existiert seit vielen Jahren. Der Boom der generativen KI begann jedoch erst 2022 mit «ChatGPT». Im Gegensatz zu bestehenden KI-Systemen analysiert generative KI nicht nur bestehende Daten, sondern kann auch eigenständig neue Inhalte wie Texte, Bilder oder Musik erschaffen.

In den letzten Monaten wurden dem BACS zahlreiche Fälle gemeldet, bei denen KI-generierte Bilder für betrügerische Zwecke eingesetzt worden sind. Verwendet werden diese vor allem auf betrügerischen Investment-Seiten. Aber auch bei gefälschten Stellenangeboten und beim Phishing von Zugangsdaten werden künstlich erzeugte Bilder, wie beispielsweise gefälschte Quittungen der Post, eingesetzt.

Die Problematik besteht darin, dass sich die Modelle laufend verbessern. Somit kann ein heute gültiges Erkennungsmerkmal schon morgen nicht mehr gelten. Um KI-generierte Bilder zu erkennen, kann man trotzdem auf bestimmte Warnsignale achten:

Hände
Hände stellten lange Zeit die grösste Herausforderung für die KI dar. Unregelmässigkeiten ergaben sich beispielsweise bei der Anzahl oder der Länge der Finger, aber auch bei der Haut selbst, die oft einen plastischen Eindruck erzeugte. Auch kleinere Details wie die Anzahl der Knöpfe an der Kleidung und deren Positionierung dienen als Hinweis für den Einsatz von KI. Mit verbesserten KI-Modellen wird dieser Indikator aber zunehmend an Wichtigkeit verlieren. Gerade die neusten Modelle von 2026 enthalten kaum noch Fehler, sondern bestenfalls noch unlogische Details.

Gesichter / Personen
Auch das Generieren von Gesichtern hat der KI in der Vergangenheit viele Probleme bereitet. Genau wie bei den Händen können verschiedene Details auffallen. Auch hier hat KI mittlerweile wesentliche Fortschritte gemacht. Während die ersten Modelle noch Schwierigkeiten mit den Augen und der Haut hatten, sind die neuesten Modelle viel zuverlässiger geworden. Haut, Haare und Zähne sehen mittlerweile natürlicher aus. Allerdings finden sich auch in den heutigen Modellen noch kleine Fehler in den Details, wie die Reflektion an beiden Ohrringen, Schmuck, der im Hals verschwindet, und übermässig lange Ohren.

Landschaften
Häufig werden Landschaftsbilder mithilfe von KI  generiert, um das Vertrauen der Opfer zu gewinnen, indem beispielsweise ein Bezug zur Schweiz vorgetäuscht wird. Auch hier gibt es einige Merkmale, die den Einsatz künstlicher Intelligenz erkennen lassen. Oft wird der Farbkontrast bei Sonnenaufgängen und -untergängen zu stark dargestellt. Dadurch entstehen unmöglich erscheinende Kontraste. KI verfällt zudem oft in Repetition, indem sie Objekte wie Flaggen und Häuser wiederholt darstellt. In Wirklichkeit sind Häuser in einer Ortschaft selten in denselben Farben und Mustern gehalten. Dies ist ein verlässlicher Indikator für den Einsatz künstlicher Intelligenz.

Hintergründe und Gruppen von Personen
Ein bekanntes Problem der KI ist ihre fehlerhafte Logik. Hintergründe erscheinen sehr oft verschwommen, wie dies nur bei Aufnahmen im Porträt-Modus der Fall wäre. Auch bei der Generierung grösserer Gruppen weist KI Mängel auf. Entweder fehlen Objekte, oder es sind derer zu viele (z. B. zu wenige Teller oder zu viele Gläser für die Anzahl Personen). Wie bereits oben beschrieben, können auch Inkonsistenzen bei der Generierung von Händen und Gliedmassen erscheinen, was zu doppelten linken Händen und zur Verzerrung von Fingern führen kann. Auch komplexe Szenen bereiten der künstlichen Intelligenz immer noch Probleme und führen dazu, dass Personen, insbesondere bei grösseren Gruppen, verzerrte oder verschwommene Gesichter haben. Auch Hintergründe erscheinen in normalen Situationen übermässig unscharf. Gegenstände können ineinander verschmelzen. Stühle können beispielsweise zu einem Tisch werden oder Besteck in Händen verschwinden. Auch die Geometrie kann ein Indikator sein, da beispielsweise Wände, Fenster usw. nicht gerade sind oder optisch nicht zusammenlaufen. Letztlich können auch Schatten, welche nicht in dieselbe Richtung verlaufen, ein weiteres Indiz sein, um den Einsatz künstlicher Intelligenz zu erkennen.

Texte in Bildern
KI hat auch heute noch Schwierigkeiten, realistisch aussehenden Text in Bilder einzufügen. Während frühere Modelle grosse Probleme bei der Generierung von Buchstaben hatten, vermitteln Texte in neueren Modellen das Gefühl computergraphisch eingefügt zu sein. Verzerrte Buchstaben sowie Rechtschreibfehler können aber auch heute noch als Indiz für den Einsatz von KI dienen.

Weitere Merkmale
Weitere Hinweise zur Erkennung von KI-Bildern ergeben sich aus subtilen Unstimmigkeiten. So können Licht und Schatten beispielsweise unnatürlich wirken, etwa wenn Lichtquellen widersprüchlich erscheinen oder Schatten in verschiedene Richtungen fallen. Auch die Perspektive kann Hinweise liefern, wenn Linien verzogen sind oder räumliche Strukturen nicht logisch zusammenpassen. Typisch sind zudem Wiederholungsmuster, bei denen sich Elemente wie Fenster, Personen oder Texturen auffällig ähneln. Ein weiteres Merkmal ist eine unnatürliche Darstellung von Haut und Texturen, die entweder zu glatt oder künstlich wirken. Schliesslich bleibt häufig ein allgemeines Gefühl von Künstlichkeit zurück, bei dem das Bild auf den ersten Blick zwar überzeugend wirkt, bei genauerem Hinsehen aber «nicht ganz stimmt».

Fazit
Auch wenn derzeit noch zahlreiche Faktoren dabei helfen, KI-generierte Bilder zu identifizieren, wird sich dieser Ansatz in Zukunft deutlich verändern. Aufgrund der rasanten Fortschritte der generativen Modelle verschwinden viele dieser klassischen Erkennungsmerkmale zunehmend oder treten nur noch subtil auf. Stattdessen muss die Beurteilung stärker auf die inhaltliche Bildlogik und das Gesamtverständnis des dargestellten Motivs abgestützt werden. Entscheidend sind nicht einzelne offensichtliche Fehler, sondern feine Unstimmigkeiten in Perspektive, Kontext, Proportionen oder semantischer Konsistenz. Betrachter müssen künftig genauer hinschauen und ein geschultes Auge für Details entwickeln, die auf den ersten Blick plausibel erscheinen, bei näherer Betrachtung aber nicht vollständig stimmig sind.