Les investigations numériques évoluent sans cesse et les experts les plus chevronnés des forces de l’ordre ne se sentent souvent pas prêts à relever les innombrables défis que pose la technologie. Malgré des années d’expérience et une formation très complète, il arrive que les enquêteurs les plus aguerris soient pris au dépourvu.

Imaginons qu’une adolescente signale que des photos d’elle qu’elle a publiées ont été utilisées à mauvais escient. Les photos qu’elle a partagées n’étaient pas inappropriées, mais son visage a été incrusté sur un autre corps se livrant à un acte sexuel. La vie de cette jeune fille devient un enfer à cause de l’IA.   

Pour les forces de l’ordre, cette situation marque le début d’une nouvelle ère pour la criminalistique numérique : la frontière entre la réalité et la fiction devient de plus en plus floue et les techniques d’enquête traditionnelles sont mises à l’épreuve de manière inédite. Les contenus pédopornographiques générés par l’IA soulèvent de grandes questions sur le respect de la vie privée, la sécurité et le déploiement éthique de la technologie dans l’exercice de la justice. Comment faire preuve d’intégrité, d’efficacité et de sensibilité dans ce contexte ?   

Identifier les images truquées du point de vue de la criminalistique

Cette situation n’est déjà plus hypothétique, mais bien réelle. Comme le souligne Heather Mahalik Barnhart, de Cellebrite, dans le Forensic Magazine : « En Floride, deux adolescents sont accusés d’avoir utilisé l’IA pour générer des images explicites d’un camarade de classe ». Pour l’enquêteur, cette affaire pourrait poser plusieurs problèmes : 

  1. Si la photo a été modifiée, comment la retrouver dans la masse d’images contenues dans un appareil mobile aujourd’hui ? Il n’est pas possible de recourir à la correspondance de hash, et les faire défiler manuellement prendrait beaucoup de temps.
  2. Cet acte constitue-t-il un délit ?
  3. A-t-on fait quelque chose pour lutter contre ce problème ou pour aider les enquêteurs à faire face à cette nouvelle menace ?  

Déterminez vos compétences vis-à-vis de l’enquête

Il est extrêmement difficile de passer au crible des milliers, des centaines de milliers, voire des millions d’images. Sans pouvoir s’appuyer sur la correspondance de hash, cette tâche déjà difficile devient encore plus redoutable. Heureusement, il existe des outils tels que Cellebrite Pathfinder, qui permettent à un enquêteur d’orienter ses recherches autour d’une personne spécifique et même de créer ses propres recherches visuelles. Grâce à cette puissance de calcul colossale, les enquêtes sont largement plus rapides et plus efficaces.  Pour reprendre l’exemple ci-dessus, après avoir récupéré le ou les appareils d’un suspect, l’enquêteur peut utiliser la fonctionnalité de similitude faciale, Facial Similarity de Pathfinder. Pour ce faire, il charge une photo de la victime et utilise l’analyse d’image pour rechercher activement des visages similaires au sien, sans devoir faire correspondre les valeurs de hash    

Vous pouvez également bénéficier des conseils des experts de Cellebrite, tels que Heather Mahalik Barnhart et Jared Barnhart, qui ont récemment découvert plusieurs particularités des  images basées sur l’IA par rapport aux images traditionnelles. Le moindre mécanisme peut vous orienter dans la bonne direction, comme en témoigne Heather Barnhart : « En général, la taille des images générées par l’IA est plus petite, mais cela ne suffit pas à les identifier. Il s’agit néanmoins d’un bon indicateur pour commencer à creuser dans cette direction. » 

Déterminez vos compétences juridictionnelles  

Certains États américains tentent d’anticiper le problème, tandis que d’autres exigent qu’une victime soit identifiée ou prévoient une défense affirmative selon laquelle « aucun mineur n’a été représenté dans la représentation visuelle ». Nous avons abordé la manière dont les différentes entités gouvernementales traitent cette question dans mon article précédent.

En résumé, vos échanges avec les procureurs, les parlementaires locaux ou autres responsables politiques influenceront probablement l’avenir de ces investigations et les sanctions qui en découleront.  Il convient de rappeler que vous pouvez utiliser le service « Take it Down », proposé par le NCMEC, à titre préventif, pour limiter la diffusion de ce type de contenu.  

Notre action au sein de Cellebrite

Comme l’a expliqué Heather Barnhart, Cellebrite travaille avec les plus grands spécialistes, capables de faire face à des problèmes de ce type : « Nous créons une poignée d’images truquées à l’aide de diverses applications de génération par l’IA sur nos appareils de test Android et iOS. Nous prenons ensuite le même type d’image de façon traditionnelle. Nous les comparons ensuite et fouillons dans les fichiers EXIF des images et dans les bases de données qui répertorient les métadonnées des artefacts de l’image. » 

Fausse ou réelle ? La détection d’images créées par IA d’un point de vue forensique

La lutte contre les contenus pédopornographiques implique une approche multidimensionnelle, ou le résultat de l’investigation est le fruit d’une combinaison de plusieurs éléments. En revanche, l’absence ou la négligence de l’un d’entre eux risque de compromettre l’investigation. Il est tout aussi essentiel de comprendre les nuances de votre législation que de vous doter des bonnes solutions pour enquêter, afin de repérer plus rapidement les bonnes pistes. Les outils tels que Pathfinder de Cellebrite optimisent les compétences des enquêteurs en leur permettant de cibler les similitudes entre les visages et de procéder à d’autres analyses visuelles. Ils peuvent également contribuer à cartographier les relations entre les délinquants et à retracer le réseau de diffusion des contenus pédopornographiques. Un dialogue ouvert avec des experts au niveau local, tels que les législateurs, les procureurs ou les spécialistes est tout aussi important que la réaction immédiate à ces affaires pour mieux se préparer à l’inconnu.   

Quelle que soit la façon dont vous ou votre service choisissez de vous préparer à la menace que représente l’utilisation malveillante de l’IA, Cellebrite se tient à vos côtés. Vous souhaitez nous faire part d’un problème similaire ? Écrivez-nous à l’adresse stump-us@cellebrite.com. 

À propos de l’auteur 

William Arnold est ingénieur de déploiement chez Cellebrite. Il intervient dans le département des services, de la livraison et de la réussite client. Il configure et installe nos produits, assure leur bon fonctionnement auprès des clients et les assiste si besoin. Pendant près de 10 ans, il a fait partie des forces de l’ordre et s’est occupé de toutes sortes d’affaires à haut risque, allant de l’exploitation d’enfants à l’enlèvement en passant par les homicides. William Arnold a témoigné dans de nombreuses affaires en tant qu’expert en criminalistique informatique. Il a travaillé sur des affaires incroyablement techniques et a notamment dû découper manuellement toute une puce de téléphone pour en extraire les SMS.

Share this post