Des chercheurs présentent des motifs adverses capables de perturber la reconnaissance par surveillance

CryptoNews rapporte :

Un professionnel de la cybersécurité américain a présenté un "motif adverse" lors de la conférence Def Con à Las Vegas. Ces motifs générés par ordinateur peuvent être imprimés sur des vêtements, des objets ou des surfaces de véhicules, afin de perturber les systèmes de reconnaissance automatique de certaines caméras de surveillance, rendant difficile l'identification des personnes, des véhicules ou des informations faciales.

Ce projet s'appelle noRecognition. Le développeur Bill Swearingen a déclaré à TechCrunch qu'il avait effectué des tests répétés au cours de l'année écoulée, totalisant environ 31 millions d'expériences, avec pour objectif de générer des motifs capables de contourner les algorithmes de détection de surveillance courants. Selon lui, ces motifs ne bloquent pas l'enregistrement des caméras, mais perturbent la capacité du système à identifier et à alerter sur les cibles présentes dans l'image.

Def Con réalise le premier test public

Lors de sa première démonstration publique à Def Con, Swearingen a recouvert la carrosserie d'une Toyota Yaris 2009 avec le dernier motif, testant un système de caméras Flock. Il a déclaré que la démonstration prouvait que le motif était efficace dans un environnement réel, bien que la partie des roues soit encore difficile à traiter complètement. Donut Media, qui a aidé à filmer, a déclaré que la vidéo de démonstration sera publiée dans les semaines à venir.

Il a affirmé que ces motifs peuvent désormais être générés à la demande et peuvent être utilisés sur des vêtements, des sweat-shirts à capuche et éventuellement sur des films pour véhicules à l'avenir. Le projet a également lancé une campagne de financement participatif pour vendre des produits précoces avec les motifs associés.

L'objectif est de perturber la détection automatique, pas de masquer l'image

Swearingen a déclaré qu'un grand nombre de systèmes de surveillance actuels disposent de capacités de détection d'objectifs, pouvant être utilisés pour identifier des plaques d'immatriculation, suivre des véhicules ou filtrer des objets spécifiques en combinant la reconnaissance faciale. Contrairement aux méthodes de masquage traditionnelles, cette approche ne fait pas disparaître les cibles de la vidéo, mais empêche l'algorithme de déterminer de manière stable ce qui apparaît dans l'image.

Selon lui, une fois que le système ne peut pas déclencher la détection automatique, les cibles ne seront pas facilement filtrées par les machines parmi des millions de vidéos, nécessitant une recherche manuelle supplémentaire.

Le modèle génère de nouveaux motifs par essais et erreurs

Swearingen a déclaré que le projet avait initialement commencé par une preuve de concept d'algorithmes de détection vidéo open source, puis a progressivement élargi les ressources de calcul et s'est transformé en un modèle d'apprentissage renforcé. Ce modèle continue d'essayer différents motifs ; tant qu'un motif est encore reconnu par l'algorithme, il continue d'itérer jusqu'à contourner plusieurs modèles de détection simultanément.

Il a déclaré que le système avait actuellement testé 11 algorithmes de détection open source et avait trouvé des combinaisons de motifs capables de perturber simultanément plusieurs algorithmes, y compris les capacités logicielles liées à la reconnaissance de plaques d'immatriculation Flock, aux dispositifs d'enregistrement des forces de l'ordre Axon et à Clearview AI. Selon lui, le modèle peut désormais générer presque une nouvelle série de motifs chaque minute, et l'efficacité continue de s'améliorer.

Swearingen a déclaré qu'il n'avait pas encore rendu public la version la plus puissante des motifs, afin d'éviter que les entreprises concernées ne corrigent rapidement leurs systèmes de reconnaissance. Cependant, il estime que cette démonstration publique prouve qu'il est possible d'utiliser des exemples adverses pour contourner la détection algorithmique dans des espaces publics réels, et que cela ne se limite pas à un stade expérimental.

Ce contenu est fourni à titre informatif uniquement et ne constitue pas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, promotions en ligne ou informations mentionnées ici ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, trader ou effectuer toute autre opération sur des actifs crypto. Les actifs crypto sont très volatils et peuvent entraîner des pertes. La disponibilité des services, produits et événements liés à WEEX peut varier selon les régions. Veuillez vous assurer que votre participation respecte les lois et réglementations locales applicables.