Image
25.10.2019 1 Comments

Video: Nálepky na lícach môžu oklamať softvér na rozpoznávanie tváre

Softvér na rozpoznávanie tváre nie je ani zďaleka dokonalý. Výskum už dávnejšie preukázal, že trpí rasovými predsudkami, a teraz vedci zistili problém s robotickým pohľadom. Výskum Moskovského výskumného centra spoločnosti Huawei podrobne opisuje spôsob, ako zmariť prácu open source algoritmu používaného na zistenie, či je na obrázku tvár, alebo nie, čo je zásadný prvý krok pred tým, ako systém porovná tvár s databázou známych tvárí.

Dokument ukazuje, ako dve nálepky, každá so špecifickým vzorom, ktorý vyzerá ako zdeformovaný QR kód, môžu oklamať algoritmus detekcie tváre s presnosťou 95 %, ak sú umiestnené na lícach subjektu.

Útok na detektor tváre obráti algoritmus proti sebe samému. Funguje to len preto, že vedci mali prístup k programu, ktorý sa snažili oklamať. Ibaže veľa bežne používaných nástrojov na rozpoznávanie tváre je postavených na otvorenom softvéri, ktorý je k dispozícii všetkým.

Pri vytvorení hacku s nálepkami tím najprv zhotovil fotografie vlastných tvárí s kockovaným vzorom na lícach. Potom zostavili algoritmus, ktorý zmenil vzory na lícach na obrázkoch, a testovali, či to naštrbilo dôveru algoritmu ohľadne toho, že na obrázku je tvár. Algoritmus bol nastavený tak, aby sa stokrát pohral s kockovaným vzorom, pričom opakovane kontrolovali jeho istotu, až kým opakované zmeny neznížili pravdepodobnosť detekcie tváre.

Keď potom boli zmenené kockované vzory vytlačené a aplikované na tvár v reálnom živote, podarilo sa im uniknúť detektoru tváre. Vzory generované algoritmom boli špecifické pre osobu na pôvodnom obrázku, takže každé vyhnutie sa detektoru musí byť prispôsobené konkrétnemu používateľovi.

Nie je to prvý pokus tohto druhu. Výskum z roku 2016 použil podobnú techniku ​​na vytvorenie okuliarov, ktoré by zakrývali časti tváre subjektu, aby oklamali stroj.

„Podľa posledných publikácií neexistuje žiadne riešenie na zmiernenie tohto problému,“ píšu vedci. Pre ľudí, ktorí sa obávajú dystopickej budúcnosti, je to malá úľava, že aj vševidiaci stroj sa dá oklamať, aj keby to malo znamenať, že budeme nosiť na našich tvárach namalované QR kódy.

Zdroj: onezero.medium.com.

Zobrazit Galériu
Autor: Redakcia

Nechajte si posielať prehľad najdôležitejších správ emailom

Mohlo by Vás zaujímať

Výskum a vývoj

Alexa už bude menej robotická. Dokáže hovoriť vzrušene či sklamane (ukážky)

28.11.2019 00:25

Alexa už môže vyznievať menej roboticky. V snahe dosiahnuť, aby jej interakcie boli prirodzenejšie, Amazon jej dal schopnosť reagovať vzrušeným alebo sklamaným tónom, prinajmenšom v USA. Napríklad ak ...

Výskum a vývoj 1

Umelá inteligencia vie, či čoskoro zomriete. My však netušíme, ako to vie

13.11.2019 00:10

Zdá sa, že strojové učenie je stále tajomnejšie a výkonnejšie, no vedci nie vždy chápu, ako funguje. V novej štúdii algoritmus strojového učenia vedel určiť na základe výsledkov echokardiogramu (ECG) ...

Výskum a vývoj 4

Úvaha: Bude raz umelá inteligencia súčasťou našej mysle?

24.10.2019 00:15

Otázkou v titulku sa zaoberá Susan Schneider, profesorka filozofie a kognitívnej vedy na University of Connecticut, vo svojej knihe Artificial You: AI a Future of Your Mind. Ponúkame vám niekoľko zau ...

1 Comments

  1. Čiže v Huawei reakcia na: Video: Nálepky na lícach môžu oklamať softvér na rozpoznávanie tváre
    28.10.2019 08:10
    zistili, že ich software na skenovanie ksichtu stojí za houno. Však to vieme už dávno, takže neviem čo skúmali.
    Reagovať

Vyhľadávanie

ACER_122019

Najnovšie videá