Image
14.5.2018 0 Comments

Bezpečnostná diera: Alexa a Siri môžu počuť aj skryté príkazy, ktoré ľudské ucho nezachytí

V priebehu posledných dvoch rokov čínski a americkí výskumníci demonštrovali, že digitálnym asistentom Apple Siri, Amazon Alexa a Asistent Google možno posielať skryté príkazy, ktoré ľudské ucho nezachytí. V laboratórnych podmienkach sa vedcom podarilo potajomky aktivovať systémy umelej inteligencie v smartfónoch a smart reproduktoroch a prikázať im zavolať na určité telefónne čísla či otvoriť niektoré webové stránky.

V nežiaducich rukách by sa technológia mohla použiť aj na odomknutie dverí, odcudzenie peňazí či na internetové nákupy. To všetko popri prehrávaní hudby z rádia.

Skupina študentov z Kalifornskej univerzity, Berkeley a Georgetownskej univerzity v roku 2016 ukázala, že by sa do bieleho šumu prehrávaného cez reproduktory a do videí na YouTube mohli skryť príkazy pre inteligentné zariadenia na zapnutie režimu lietadla alebo otvorenie webových stránok.

V týchto dňoch výskumníci z Berkeley publikovali štúdiu, v ktorej zašli ešte ďalej. Ukázali, že príkazy možno vkladať priamo do hudobných nahrávok alebo hovoreného textu. Ľudský poslucháč pritom počuje len hudbu alebo reč, ale reproduktor Amazon Echo môže dostať inštrukciu napríklad na pridanie nejakej položky do nákupného zoznamu.

Podľa vedcov zatiaľ neexistujú dôkazy o tom, že by sa tieto techniky dostali mimo laboratória, ale zrejme je len otázkou času, kedy ich zlomyseľní hackeri začnú využívať.

Výskum dokazuje, že hoci umelá inteligencia robí veľké pokroky, stále ju možno oklamať a manipulovať. Napríklad zmenou len niekoľkých pixelov digitálneho obrazu ju možno zmiasť, aby lietadlo identifikovala ako mačku. Alebo prilepením malých nálepiek na dopravné značky možno pomýliť systém počítačového videnia v autonómnom vozidle.

Pri zvukových útokoch výskumníci využili medzeru medzi ľudským a strojovým rozpoznávaním reči. Počítačové systémy rozpoznávania reči typicky interpretujú každý zvuk ako písmeno, prípadne ho kompilujú do slov a fráz.

Pri zmenách zvukových súborov boli vedci schopní nahradiť zvuk, ktorý by mal systém na rozpoznávanie reči počuť, zvukom, ktorý stroj interpretuje iným spôsobom, pričom pre ľudské ucho je nepočuteľný. A zatiaľ neexistuje žiadny zákon, ktorý by zakazoval podprahové podnety pre inteligentné zariadenia.

Apple tvrdí, že jeho smart reproduktor HomePod je navrhnutý tak, aby nereagoval na príkazy na odomknutie dverí či smartfónov. iPhony a iPady musia byť odomknuté predtým, ako Siri poslúchne príkazy, ktoré vyžadujú prístup k citlivým údajom alebo otvoreným aplikáciám či webovým stránkam.

Zdroj: nytimes.com.

Zobrazit Galériu
Autor: Redakcia

Nechajte si posielať prehľad najdôležitejších správ emailom

Mohlo by Vás zaujímať

Bezpečnosť

Twitter pripúšťa bezpečnostný problém pri ukladaní hesiel - radšej si to svoje zmeňte!

11.05.2018 00:00

Twitter zaznamenal vo svojom systéme závažnú bezpečnostnú chybu - za určitých okolností uložil kópie nešifrovaných hesiel svojich užívateľov. Áno, pochopili ste správne, heslá boli uložené na disk v t ...

Bezpečnosť

Praktická kryptológia (14. časť): Serpent

09.05.2018 07:53

V tejto časti seriálu sa vrátime k teórii a opíšeme si algoritmus Serpent. Ten bol jedným z piatich úspešných finalistov súťaže o nový šifrovací štandard (AES), ktorý mal nahradiť dovtedy používaný DE ...

Bezpečnosť

Šifrovanie ako prostriedok na dosiahnutie súladu s GDPR

10.05.2018 07:50

GDPR, ktoré začne platiť od mája 2018, je legislatívne nariadenie, preto článok začneme relevantnými citáciami z jeho textu, zverejneného v Úradnom vestníku Európskej únie, ktoré sa priamo alebo nepri ...

Žiadne komentáre

Vyhľadávanie

ITAPA_2018

Najnovšie videá

ATOS_05_262
SWAN_05


PC forum button