KI-generiertes CSAM: Der Bedrohung einen Schritt voraus

Digitale Ermittlungen entwickeln sich ständig weiter. Selbst echte Veteranen in der Strafverfolgung fühlen sich angesichts der unzähligen Herausforderungen, die neue Technologie mit sich bringt, oft unvorbereitet. Trotz jahrelanger Erfahrung und umfassenden Schulungen gibt es immer wieder Fälle, die selbst die erfahrensten Ermittler überraschen.

Ein Beispiel: Ein junges Mädchen meldet den Missbrauch selbst geposteter Bilder. Dabei waren die eigentlichen geteilten Fotos ganz harmlos. Mithilfe von KI aber wurde das Gesicht des Mädchens auf einen anderen Körper kopiert, der sexuelle Handlungen durchführt. So macht künstliche Intelligenz das Leben des Mädchens zur Hölle.  

Für Strafverfolgungsbehörden läutet dieses Szenario eine neue Ära in der digitalen Forensik ein: Die Grenzen zwischen Realität und Fälschung verschwimmen zusehends, und mit ihren herkömmlichen Ermittlungstechniken stehen die Behörden vor nie dagewesenen Herausforderungen. Die Auswirkungen KI-generierter Darstellungen von sexuellem Kindesmissbrauch (Child Sexual Abuse Material, CSAM) werfen tiefgreifende Fragen zum Datenschutz, zur Sicherheit und zum ethischen Einsatz von Technologie bei der Strafverfolgung auf. Wie können wir uns in diesem Umfeld mit Integrität, Effizienz und Sensibilität bewegen?   

Identifizierung von Deepfake-Bildern aus forensischer Sicht

Diese Situation ist längst kein hypothetisches Szenario mehr, sondern Realität. Heather Mahalik Barnhart von Cellebrite schreibt im Forensic Magazine: „In Florida stehen zwei Teenager vor Gericht, denen vorgeworfen wird, KI eingesetzt zu haben, um explizite Bilder einer Mitschülerin zu erstellen.“ Aus Sicht der Ermittler könnte dies mehrere Herausforderungen mit sich bringen: 

1. Wie lokalisiere ich manipulierte Fotos in der Menge von Bildern, die heutzutage auf mobilen Geräten gespeichert sind? Ein Hash-Abgleich ist nicht möglich, und das manuelle Durchsuchen würde viel Zeit kosten. 
2. Wurde ein Verbrechen begangen?
3. Wird etwas unternommen, um dieses Problem zu bekämpfen oder den Ermittlern bei dieser neuen Bedrohung zu helfen?    

Wie können Sie die Ermittlungen voranbringen?

Tausende, Hunderttausende oder sogar Millionen von Bildern zu durchsuchen, ist eine gewaltige Aufgabe. Doch wenn man sich nicht auf einen Hash-Abgleich verlassen kann, wird sie noch einmal ungleich schwieriger. Zum Glück gibt es Tools wie Cellebrite Pathfinder, mit denen Ermittler nach bestimmten Personen suchen und sogar eigene visuelle Suchkriterien erstellen können. Dank der enormen Rechenleistung, die uns heute zur Verfügung steht, können solche Ermittlungen erheblich schneller und effizienter bewältigt werden. Im obigen Beispiel könnte ein Ermittler, nachdem er das Gerät oder die Geräte eines Verdächtigen erhalten hat, die Pathfinder-Funktion „Facial Similarity“ verwenden: Er muss nur ein Bild des Opfers hochladen, und die Bildanalyse sucht aktiv nach Gesichtern, die dem des Opfers ähnlich sind, ohne dass ein Abgleich der Hash-Werte erforderlich ist.     

Und dann sind da natürlich noch die Expertinnen und Experten von Cellebrite. Hier haben z. B. Heather Mahalik Barnhart und Jared Barnhart erst kürzlich einige wichtige Merkmale von KI-Bildern im Vergleich zu authentischen Bildern entdeckt. Selbst das kleinste Muster kann dazu dienen, Sie in die richtige Richtung zu führen, wie Heather schreibt: „Im Allgemeinen ist die Dateigröße eines KI-Bildes kleiner. Das reicht zwar nicht für eine hieb- und stichfeste Identifizierung aus, aber es ist ein guter Anhaltspunkt, auf den man achten sollte.“ 

Welche rechtlichen Möglichkeiten haben Sie?

Während in einigen US-Bundestaaten versucht wird, das Problem proaktiv anzugehen, ist es in anderen nach wie vor erforderlich, dass ein Opfer identifiziert werden muss. Wieder andere lassen die Verteidigung zu, dass „keine echte minderjährige Person in der visuellen Darstellung abgebildet ist“. Wir haben in einem früheren Artikel darüber berichtet, wie die verschiedenen staatlichen Stellen mit diesem Thema umgehen.

Für Sie bedeutet das: Suchen Sie das Gespräch mit Staatsanwälten, örtlichen Gesetzgebern und anderen politischen Entscheidungsträgern. So können Sie aktiv Einfluss auf die Zukunft dieser Ermittlungen und die anschließenden Strafen nehmen. An dieser Stelle sei auch noch einmal darauf hingewiesen, dass der von NCMEC betriebene Dienst „Take it Down“ präventiv genutzt werden kann, um Ihre Gemeinde dabei zu unterstützen, die Verbreitung solcher Inhalte einzudämmen.   

Was wir bei Cellebrite tun

Wie bereits angedeutet, beschäftigt Cellebrite einige der klügsten Köpfe, die sich mit Problemen wie diesen beschäftigen. Heather erklärt: „Auf unseren Android- und iOS-Testgeräten erstellen wir selbst ein paar Deepfake-Bilder mithilfe verschiedener GenAI-Anwendungen. Dann nehmen wir dieselbe Art von Bildern mit herkömmlichen Mitteln auf. Anschließend stellen wir sie nebeneinander und durchsuchen die EXIF-Daten der Bilder und die Datenbanken, die die Metadaten der Bildartefakte erfassen. 

Fake oder echt? Erkennung von KI-Bildern mithilfe eines forensischen Objektivs

Die Bekämpfung von CSAM erfordert einen vielschichtigen Ansatz, bei dem sich die Ermittlungen aus kleineren Teilen zusammensetzen. Wenn nur einer dieser Aspekte fehlt oder vernachlässigt wird, kann das die gesamte Ermittlung gefährden. Die Kenntnis der örtlichen Rechtsprechung ist ebenso wichtig wie die Verfügbarkeit der richtigen Ermittlungslösungen, mit denen Sie schneller die richtigen Hinweise finden können. Tools wie Pathfinder von Cellebrite erweitern die Möglichkeiten der Ermittler, indem sie gezielt nach ähnlichen Gesichtern suchen können und noch andere visuelle Analysen ermöglichen. Sie können auch dabei helfen, Verbindungen zwischen Tätern aufzudecken und den Weg der CSAM-Verbreitung nachzuvollziehen. Der offene Dialog mit lokalen Experten wie Gesetzgebern, Staatsanwälten oder Spezialisten kann dabei helfen, sich besser auf Unbekanntes vorzubereiten, und ist ebenso wichtig wie die aktive Reaktion auf diese Fälle.   

Ganz gleich, wie Sie oder Ihre Behörde sich auf die Bedrohung durch einen bösartigen KI-Einsatz vorbereiten wollen – Cellebrite steht Ihnen mit Rat und Tat zur Seite. Haben Sie ein ähnliches Problem, das Sie gerne mit uns besprechen möchten? Dann schreiben Sie uns unter stump-us@cellebrite.com. 

Über den Autor 

Als Deployment Engineer bei Cellebrite ist William Arnold in den Bereichen Services, Delivery und Customer Success tätig. Dort konfiguriert und installiert er unsere Produkte bei unseren Kunden, sorgt für einen reibungslosen Betrieb und bietet bei Bedarf Unterstützung an. Fast ein Jahrzehnt lang war William Arnold in der Strafverfolgung tätig und arbeitete an hochgradig belastenden Fällen – von der Ausbeutung von Kindern über Entführungen bis hin zu Mordfällen. Will hat in mehreren Fällen als Experte für Computerforensik ausgesagt. Er hat an unglaublich technischen Fällen gearbeitet – unter anderem musste er einen ganzen Telefon-Chip-off für SMS-Nachrichten manuell durchführen.