Image
4.3.2016 1 Comments

Skynet v praxi. Tajný algoritmus NSA môže za teroristu označiť aj televízneho reportéra

V roku 2014 bývalý riaditeľ NSA Michael Hayden vyhlásil: „Zabíjame ľudí na základe metadát.“ Teraz nové preskúmanie dokumentov publikovaných Edwardom Snowdenom naznačuje, že mnohí z týchto ľudí môžu byť nevinní.

V minulom roku bezpečnostný magazín  Intercept zverejnil dokumenty s podrobnosťami o programe NSA s názvom Skynet. Podľa dokumentov sa Skynet zaoberá hromadným dozeraním na pakistanskú mobilnú telefónnu sieť, pričom aplikuje algoritmus strojového učenia na metadáta 55 miliónov ľudí z mobilnej siete, aby sa určila pravdepodobnosť toho, že daný človek je terorista. Dátový vedec Patrick Ball, ktorý vypovedal ako znalec pred súdom pre vojnové zločiny, charakterizoval túto metódu ako „smiešne optimistickú“ a „vedecky pochybnú“.

Od roku 2004 počas útokov amerických bezpilotných lietadiel zahynulo v Pakistane podľa odhadov 2500 až 4000 ľudí, z ktorých väčšinu americká vláda označila ako „extrémistov“. Pritom podľa neziskovej organizácie The Bureau of Investigative Journalism  sú ciele podľa údajov z rokov 2011 a 2012 vyberané na základe algoritmu strojového učenia programu Skynet, ktorý bol založený v roku 2007. V nasledujúcich rokoch mohli byť tisícky nevinných ľudí v Pakistane nesprávne označkované za teroristov týmto „vedecky pochybným“ algoritmom, čo mohlo viesť k ich predčasnej smrti.

Skynet funguje ako typická moderná firemná aplikácia na spracovanie veľkého objemu dát. Program zhromažďuje metadáta a ukladá ich na cloudové servery NSA, vyberá relevantné informácie a aplikuje na ne algoritmus strojového učenia na vyhľadávanie podozrivých osôb.

Okrem spracovania údajov o hovoroch na mobilnom telefóne (telefónnych čísel, času hovoru, kto volal koho a pod.) Skynet zhromažďuje aj lokalizačné údaje používateľov, čo umožňuje podrobne mapovať ich pohyb. Vypnutie telefónu dostane označenie ako pokus o uniknutie z hromadného dozoru. Označkovaní sú aj používatelia, ktorí si vymenili SIM kartu, a to v domnienke, že sa tým pokúšajú zabrániť sledovaniu.

Skynet zhotovuje kompletnú súpravu metadát – skladá „sklíčka“ každodennej rutiny – kto s kým cestuje, s kým má spoločné kontakty, kedy napríklad prenocuje u priateľov, navštívi inú krajinu, presťahuje sa a pod. Algoritmus strojového učenia NSA využíva viac ako 80 rôznych vlastností pri hodnotení potenciálnych teroristov. Program vychádza z predpokladu, že správanie teroristov sa výrazne líši od obyčajných občanov.

No ako dokumenty zverejnené vlani v Intercepte ukazujú, chybné identifikovanie teroristov algoritmom strojového učenia nie je výnimka. V prezentácii NSA je ako „najpodozrivejšia osoba“ označený Ahmad Zaidan, dlhoročný šéf pakistanskej kancelárie televíznej spoločnosti Al-Džazíra v Islamabade. Ten totiž často cestuje do oblastí známych teroristickou činnosťou a robí tam reportáže a rozhovory s povstalcami. Bol teda označený ako „člen Al-Káidy“.

Výcvik algoritmu strojového učenia sa uskutočňuje podobne ako tréning protispamového filtra – treba ho „nakŕmiť“ údajmi o  známych teroristoch, aby mohol nachádzať podobné profily. Na základe správania známych teroristov sa potom snažia detegovať „kuriérov“, teda akýchsi pomocníkov teroristov.

V roku 2012, keď bola zhotovená prezentácia o Skynete, mal Pakistan 192 miliónov obyvateľov a v prevádzke bolo 120 miliónov mobilných telefónov. NSA analyzovali záznamy o 55 miliónoch používateľoch mobilných telefónov. Vzhľadom na to, že sa  pri analýzach využíva viac ako 80 kritérií, ide o priveľa dát na to, aby sa dali spracovať manuálne. NSA si teda vybrala techniku regresného učenia, nazývanú random forest čiže náhodný les. Takže algoritmus strojového učenia sa používa ako pomôcka a možno aj náhrada ľudského úsudku.

Klasifikačný algoritmus Skynetu potom na základe analýzy určí skóre pre každého jednotlivca. Cieľom je priradiť vysoké skóre skutočným teroristom a nízke nevinnému zvyšku obyvateľstva. V prípade falošne negatívnych výsledkov je prahová hodnota nastavená na 50 %, čo znamená, že asi polovica teroristov môže byť klasifikovaná ako nevinní ľudia. Samozrejme, nemôžeme vedieť, či rovnaký 50-percentný prah platí aj pre falošne pozitívne výsledky, teda ľudí, ktorí sú nesprávne označení za teroristov a zaradení do zoznamu osôb určených na likvidovanie. No problém falošne pozitívnych výsledkov tu je – podľa Patricka Balla platí, že čím menej falošne negatívnych výsledkov chcú dosiahnuť, tým väčší je počet falošne pozitívnych. V jednej zo snímok prezentácie  sa NSA chváli, že jej „štatistické algoritmy sú schopné nájsť kuriérov pri veľmi nízkom počte falošných poplachov“. Otázka je, čo NSA pokladá za „veľmi nízky počet“.

Autor: Redakcia

Nechajte si posielať prehľad najdôležitejších správ emailom

Mohlo by Vás zaujímať

Bezpečnosť

Hacking kreditky za šesť sekúnd. Zločinci môžu bez problémov získať všetky údaje o platobnej karte

08.12.2016 00:13

Vedci z Newcastle University prišli na spôsob, ako môžu zločinci za menej ako 6 sekúnd zistiť číslo, dátum platnosti a bezpečnostný kód na kreditnej alebo debetnej karte Visa. Je to vraj „nebezpečne ľ ...

Bezpečnosť

Čísla kreditiek už nelákajú. Kyberzločinci sa zameriavajú na lekárske záznamy, čísla sociálneho zabezpečenia a útoky DDoS.

07.12.2016 00:12

V dnešnej modernej a čoraz viac prepojenej dobe sú dáta používateľov, korporácií či štátnych inštitúcií pod neustále rastúcim tlakom. Tieto dáta predstavujú poklad v rukách kyberkriminálnikov a  trend ...

Bezpečnosť 2

Ovplyvnilo Rusko americké prezidentské voľby? Podľa expertov boli niektoré hlasovacie prístroje infikované

06.12.2016 00:16

Podľa kyberbezpečnostnej firmy FireEye ruská vláda počas kampane pred americkými prezidentskými voľbami nielen vykonávala hackerské útoky, ale využívala aj sociálne siete na ovplyvňovanie názorov. Šír ...

1 Comments

  1. Skynet reakcia na: Skynet v praxi. Tajný algoritmus NSA môže za teroristu označiť aj televízneho reportéra
    16.3.2016 08:03
    Pakistan sa stal terénom pre overenie účinnosti systému v praxi s tým, že tomu vychytajú muchy a potom to aplikujú na všetky krajiny vybavené mobilnými telefónmi. Drony odhaľujú mobil vo vačku a porovnajú s identikitom (tu časté omyly) dron vykoná likvidáciu a nechá mŕtveho tam. Novšie drony ťa zabijú, uchopia a odletia s telom. V postihnutých oblastiach Pakistanu sa po skúsenostiach obyvateľov zriadila domobrana a na drony pri ich útoku reagujú strelbou, po novom aj z ramena odpáliteľnými raketami. Práve títo obrancovia reagujúci na útoky dronov sú označovaný za teroristov. Pýtal sa však niekto na oprávnenosť ich pôsobenia na zvrchovanom cudzom území? Terorista je aj ten kto ich tam posiela. Príde čas zúčtovania ... muslimské bratstsvo nezabúda - udalosti zapisujú do svojej kroniky - je súčasťou výuky odboja.
    Reagovať

Vyhľadávanie

Kyocera - prve-zariadenia-formatu-a4-s-vykonom-a3

Najnovšie videá