SAMSUNG_082020 SAMSUNG_082020 SAMSUNG_082020 Advertisement

Video: Nálepky na lícach môžu oklamať softvér na rozpoznávanie tváre

Výskum a vývoj
1

Softvér na rozpoznávanie tváre nie je ani zďaleka dokonalý. Výskum už dávnejšie preukázal, že trpí rasovými predsudkami, a teraz vedci zistili problém s robotickým pohľadom. Výskum Moskovského výskumného centra spoločnosti Huawei podrobne opisuje spôsob, ako zmariť prácu open source algoritmu používaného na zistenie, či je na obrázku tvár, alebo nie, čo je zásadný prvý krok pred tým, ako systém porovná tvár s databázou známych tvárí.

Dokument ukazuje, ako dve nálepky, každá so špecifickým vzorom, ktorý vyzerá ako zdeformovaný QR kód, môžu oklamať algoritmus detekcie tváre s presnosťou 95 %, ak sú umiestnené na lícach subjektu.

Útok na detektor tváre obráti algoritmus proti sebe samému. Funguje to len preto, že vedci mali prístup k programu, ktorý sa snažili oklamať. Ibaže veľa bežne používaných nástrojov na rozpoznávanie tváre je postavených na otvorenom softvéri, ktorý je k dispozícii všetkým.

Pri vytvorení hacku s nálepkami tím najprv zhotovil fotografie vlastných tvárí s kockovaným vzorom na lícach. Potom zostavili algoritmus, ktorý zmenil vzory na lícach na obrázkoch, a testovali, či to naštrbilo dôveru algoritmu ohľadne toho, že na obrázku je tvár. Algoritmus bol nastavený tak, aby sa stokrát pohral s kockovaným vzorom, pričom opakovane kontrolovali jeho istotu, až kým opakované zmeny neznížili pravdepodobnosť detekcie tváre.

Keď potom boli zmenené kockované vzory vytlačené a aplikované na tvár v reálnom živote, podarilo sa im uniknúť detektoru tváre. Vzory generované algoritmom boli špecifické pre osobu na pôvodnom obrázku, takže každé vyhnutie sa detektoru musí byť prispôsobené konkrétnemu používateľovi.

Nie je to prvý pokus tohto druhu. Výskum z roku 2016 použil podobnú techniku ​​na vytvorenie okuliarov, ktoré by zakrývali časti tváre subjektu, aby oklamali stroj.

„Podľa posledných publikácií neexistuje žiadne riešenie na zmiernenie tohto problému,“ píšu vedci. Pre ľudí, ktorí sa obávajú dystopickej budúcnosti, je to malá úľava, že aj vševidiaci stroj sa dá oklamať, aj keby to malo znamenať, že budeme nosiť na našich tvárach namalované QR kódy.

Zdroj: onezero.medium.com.

Zobrazit Galériu

Redakcia

Všetky autorove články
internet web online softver veda vyskum robot Huawei technika umelá inteligencia AI

1 komentár

Čiže v Huawei reakcia na: Video: Nálepky na lícach môžu oklamať softvér na rozpoznávanie tváre

28.10.2019 08:10
zistili, že ich software na skenovanie ksichtu stojí za houno. Však to vieme už dávno, takže neviem čo skúmali.
Reagovať

Pridať komentár

Mohlo by vás zaujímať

Mohlo by vás zaujímať