Дослідники демонструють протидіючі візерунки для порушення системи моніторингу

Видання CoinWorld повідомляє:

Працівник у сфері кібербезпеки з США на конференції Def Con у Лас-Вегасі продемонстрував "протидіючий візерунок". Ці комп'ютерно згенеровані візерунки можуть бути надруковані на одязі, предметах або поверхні автомобілів, щоб порушити автоматичні системи розпізнавання деяких камер спостереження, ускладнюючи ідентифікацію людей, автомобілів або облич.

Цей проект називається noRecognition. Розробник Білл Свірінген повідомив TechCrunch, що протягом минулого року він неодноразово проводив тести, загалом здійснивши близько 31 мільйона експериментів, метою яких було створення візерунків, здатних обходити поширені алгоритми виявлення моніторингу. За його словами, ці візерунки не заважають камерам записувати, але порушують здатність системи ідентифікувати та сигналізувати про об'єкти на зображенні.

Def Con завершив перше публічне тестування

Свірінген під час першої публічної демонстрації на Def Con наклав нові візерунки на кузов автомобіля Toyota Yaris 2009 року, тестуючи їх на системі камер Flock. Він зазначив, що демонстрація підтвердила ефективність візерунків у реальному середовищі, хоча частина з колесами все ще важко піддається обробці. Учасники з Donut Media, які допомагали зйомці, повідомили, що відео демонстрації буде опубліковано в найближчі кілька тижнів.

Він зазначив, що ці візерунки вже можна генерувати за потребою і використовувати для одягу, худі та, можливо, для автомобільних наклейок у майбутньому. Проект також розпочав краудфандинг, плануючи продавати ранні товари з відповідними візерунками.

Мета – порушити автоматичне виявлення, а не закрити зображення

Свірінген сказав, що багато сучасних систем моніторингу вже мають можливості виявлення об'єктів, які можуть використовуватися для розпізнавання номерних знаків, відстеження автомобілів або комбінування з розпізнаванням облич для фільтрації конкретних об'єктів. На відміну від традиційного закриття, цей метод не дозволяє об'єкту зникнути з відео, а ускладнює алгоритму стабільно визначити, що з'являється на зображенні.

За його словами, якщо система не може активувати автоматичне виявлення, об'єкт не буде легко виявлений з величезної кількості відео, і для подальшого пошуку знадобиться ручне втручання.

Модель генерує нові візерунки через повторні спроби та помилки

Свірінген зазначив, що проект спочатку почався з концептуального підтвердження алгоритмів виявлення з відкритим кодом, а потім поступово розширив обчислювальні потужності і перетворився на модель навчання з підкріпленням. Ця модель постійно намагається різні візерунки, і поки алгоритм розпізнає певний візерунок, вона продовжує ітерацію, поки не обійде кілька моделей виявлення одночасно.

Він зазначив, що система наразі протестувала 11 алгоритмів виявлення з відкритим кодом і вже знайшла комбінації візерунків, які можуть одночасно порушити кілька алгоритмів, включаючи можливості програмного забезпечення, пов'язані з розпізнаванням номерних знаків Flock, пристроями Axon для запису правопорушень та Clearview AI. За його словами, модель зараз може генерувати нові візерунки майже щохвилини, і ефективність продовжує зростати.

Свірінген зазначив, що він поки не оприлюднив найсильнішу версію візерунків, щоб відповідні компанії не змогли швидко виправити свої системи розпізнавання. Однак він вважає, що ця публічна демонстрація вже показала, що використання протидіючих зразків для обходу алгоритмічного виявлення в реальних публічних просторах не є лише лабораторним етапом.

Цей контент надано лише для загальних інформаційних цілей і не є фінансовою, інвестиційною, юридичною чи податковою консультацією. Події, нагороди, онлайн-акцій або пов’язану інформацію, згадана тут, не слід розглядати як рекомендацію, прохання чи запрошення до купівлі, продажу, торгівлі чи інших операцій з криптоактивами. Криптоактиви є дуже волатильними та можуть призвести до збитків. Доступність послуг, продуктів WEEX та пов’язаних із ними подій може відрізнятися залежно від регіону. Ви несете відповідальність за забезпечення відповідності вашої участі чинному місцевому законодавству та нормативним актам.