Das Bundesamt für Cybersicherheit (BACS) warnt vor dem zunehmenden Einsatz von KI-generierten Bildern bei Betrugsversuchen. Im Rahmen seiner Sommerserie erläutert die Behörde, wie sich Fälschungen erkennen lassen und welche Entwicklungen die generative KI seit dem Aufkommen von ChatGPT genommen hat. Betrüger nutzten KI inzwischen für täuschend echte Inhalte wie E-Mails, Webseiten, Bilder und Videos.

KI-generierte Bilder kommen vor allem auf betrügerischen Investmentseiten, bei gefälschten Stellenangeboten und beim Phishing zum Einsatz. Die stetige Verbesserung der KI-Modelle erschwere jedoch die Erkennung solcher Fälschungen zunehmend.

Zu den wichtigsten Hinweisen auf manipulierte Bilder zählen Unstimmigkeiten bei Händen, Gesichtern, Landschaften und Gruppenaufnahmen. Auffällige Details wie verzerrte Finger, unlogische Hintergründe oder wiederkehrende Muster könnten auf künstlich erzeugte Inhalte hindeuten. Auch Texte in Bildern enthielten häufig noch Fehler oder wirkten künstlich eingefügt.

Weitere Warnsignale sind unnatürliche Licht- und Schattenverläufe, fehlerhafte Perspektiven oder widersprüchliche Geometrien. Wiederholte Strukturen sowie unnatürlich wirkende Haut- und Oberflächenstrukturen könnten ebenfalls auf den Einsatz künstlicher Intelligenz schließen lassen. Entscheidend sei zunehmend die Gesamtlogik eines Bildes.

Klassische Erkennungsmerkmale verlieren mit der Weiterentwicklung generativer KI an Aussagekraft. Künftig werde es wichtiger, auf feine inhaltliche Unstimmigkeiten und die Plausibilität eines Motivs zu achten. Ein geschulter Blick bleibe daher ein wichtiger Schutz vor Betrug.