Image
4.3.2016 1 Comments

Skynet v praxi. Tajný algoritmus NSA môže za teroristu označiť aj televízneho reportéra

V roku 2014 bývalý riaditeľ NSA Michael Hayden vyhlásil: „Zabíjame ľudí na základe metadát.“ Teraz nové preskúmanie dokumentov publikovaných Edwardom Snowdenom naznačuje, že mnohí z týchto ľudí môžu byť nevinní.

V minulom roku bezpečnostný magazín  Intercept zverejnil dokumenty s podrobnosťami o programe NSA s názvom Skynet. Podľa dokumentov sa Skynet zaoberá hromadným dozeraním na pakistanskú mobilnú telefónnu sieť, pričom aplikuje algoritmus strojového učenia na metadáta 55 miliónov ľudí z mobilnej siete, aby sa určila pravdepodobnosť toho, že daný človek je terorista. Dátový vedec Patrick Ball, ktorý vypovedal ako znalec pred súdom pre vojnové zločiny, charakterizoval túto metódu ako „smiešne optimistickú“ a „vedecky pochybnú“.

Od roku 2004 počas útokov amerických bezpilotných lietadiel zahynulo v Pakistane podľa odhadov 2500 až 4000 ľudí, z ktorých väčšinu americká vláda označila ako „extrémistov“. Pritom podľa neziskovej organizácie The Bureau of Investigative Journalism  sú ciele podľa údajov z rokov 2011 a 2012 vyberané na základe algoritmu strojového učenia programu Skynet, ktorý bol založený v roku 2007. V nasledujúcich rokoch mohli byť tisícky nevinných ľudí v Pakistane nesprávne označkované za teroristov týmto „vedecky pochybným“ algoritmom, čo mohlo viesť k ich predčasnej smrti.

Skynet funguje ako typická moderná firemná aplikácia na spracovanie veľkého objemu dát. Program zhromažďuje metadáta a ukladá ich na cloudové servery NSA, vyberá relevantné informácie a aplikuje na ne algoritmus strojového učenia na vyhľadávanie podozrivých osôb.

Okrem spracovania údajov o hovoroch na mobilnom telefóne (telefónnych čísel, času hovoru, kto volal koho a pod.) Skynet zhromažďuje aj lokalizačné údaje používateľov, čo umožňuje podrobne mapovať ich pohyb. Vypnutie telefónu dostane označenie ako pokus o uniknutie z hromadného dozoru. Označkovaní sú aj používatelia, ktorí si vymenili SIM kartu, a to v domnienke, že sa tým pokúšajú zabrániť sledovaniu.

Skynet zhotovuje kompletnú súpravu metadát – skladá „sklíčka“ každodennej rutiny – kto s kým cestuje, s kým má spoločné kontakty, kedy napríklad prenocuje u priateľov, navštívi inú krajinu, presťahuje sa a pod. Algoritmus strojového učenia NSA využíva viac ako 80 rôznych vlastností pri hodnotení potenciálnych teroristov. Program vychádza z predpokladu, že správanie teroristov sa výrazne líši od obyčajných občanov.

No ako dokumenty zverejnené vlani v Intercepte ukazujú, chybné identifikovanie teroristov algoritmom strojového učenia nie je výnimka. V prezentácii NSA je ako „najpodozrivejšia osoba“ označený Ahmad Zaidan, dlhoročný šéf pakistanskej kancelárie televíznej spoločnosti Al-Džazíra v Islamabade. Ten totiž často cestuje do oblastí známych teroristickou činnosťou a robí tam reportáže a rozhovory s povstalcami. Bol teda označený ako „člen Al-Káidy“.

Výcvik algoritmu strojového učenia sa uskutočňuje podobne ako tréning protispamového filtra – treba ho „nakŕmiť“ údajmi o  známych teroristoch, aby mohol nachádzať podobné profily. Na základe správania známych teroristov sa potom snažia detegovať „kuriérov“, teda akýchsi pomocníkov teroristov.

V roku 2012, keď bola zhotovená prezentácia o Skynete, mal Pakistan 192 miliónov obyvateľov a v prevádzke bolo 120 miliónov mobilných telefónov. NSA analyzovali záznamy o 55 miliónoch používateľoch mobilných telefónov. Vzhľadom na to, že sa  pri analýzach využíva viac ako 80 kritérií, ide o priveľa dát na to, aby sa dali spracovať manuálne. NSA si teda vybrala techniku regresného učenia, nazývanú random forest čiže náhodný les. Takže algoritmus strojového učenia sa používa ako pomôcka a možno aj náhrada ľudského úsudku.

Klasifikačný algoritmus Skynetu potom na základe analýzy určí skóre pre každého jednotlivca. Cieľom je priradiť vysoké skóre skutočným teroristom a nízke nevinnému zvyšku obyvateľstva. V prípade falošne negatívnych výsledkov je prahová hodnota nastavená na 50 %, čo znamená, že asi polovica teroristov môže byť klasifikovaná ako nevinní ľudia. Samozrejme, nemôžeme vedieť, či rovnaký 50-percentný prah platí aj pre falošne pozitívne výsledky, teda ľudí, ktorí sú nesprávne označení za teroristov a zaradení do zoznamu osôb určených na likvidovanie. No problém falošne pozitívnych výsledkov tu je – podľa Patricka Balla platí, že čím menej falošne negatívnych výsledkov chcú dosiahnuť, tým väčší je počet falošne pozitívnych. V jednej zo snímok prezentácie  sa NSA chváli, že jej „štatistické algoritmy sú schopné nájsť kuriérov pri veľmi nízkom počte falošných poplachov“. Otázka je, čo NSA pokladá za „veľmi nízky počet“.

Autor: Redakcia

Nechajte si posielať prehľad najdôležitejších správ emailom

Mohlo by Vás zaujímať

Bezpečnosť

Čo nás čaká v bezpečnosti v roku 2017?

19.01.2017 00:15

Tak ako postupuje svet technológií míľovými krokmi dopredu, objavujú sa nové výzvy a problémy v oblasti bezpečnosti. Okrem novej legislatívy, ako je GDPR (General Data Protection Regulation, regulácia ...

Bezpečnosť

Návrat k faxom? Sedem hlavných bezpečnostných trendov na rok 2017

17.01.2017 00:10

Podľa spoločnosti GFI Software budú v oblasti podnikovej IT bezpečnosti v roku 2017 pokračovať trendy minulého roka, ktorý môžeme v mnohých ohľadoch považovať za prelomový. Prudký nárast ransomvéru, k ...

Bezpečnosť

6 trendov najbližších rokov. Umelá inteligencia odhaľuje hackerov, fog computing a kolaborácia v cloude

13.01.2017 00:18

Rok 2016 jednoznačne potvrdil, že súčasný svet sa mení a digitalizácia sa dostáva do všetkých oblastí nášho života. Napríklad rozšírená realita umožnila milovníkom Pokémonov nachytať si svoje obľúbené ...

1 Comments

  1. Skynet reakcia na: Skynet v praxi. Tajný algoritmus NSA môže za teroristu označiť aj televízneho reportéra
    16.3.2016 08:03
    Pakistan sa stal terénom pre overenie účinnosti systému v praxi s tým, že tomu vychytajú muchy a potom to aplikujú na všetky krajiny vybavené mobilnými telefónmi. Drony odhaľujú mobil vo vačku a porovnajú s identikitom (tu časté omyly) dron vykoná likvidáciu a nechá mŕtveho tam. Novšie drony ťa zabijú, uchopia a odletia s telom. V postihnutých oblastiach Pakistanu sa po skúsenostiach obyvateľov zriadila domobrana a na drony pri ich útoku reagujú strelbou, po novom aj z ramena odpáliteľnými raketami. Práve títo obrancovia reagujúci na útoky dronov sú označovaný za teroristov. Pýtal sa však niekto na oprávnenosť ich pôsobenia na zvrchovanom cudzom území? Terorista je aj ten kto ich tam posiela. Príde čas zúčtovania ... muslimské bratstsvo nezabúda - udalosti zapisujú do svojej kroniky - je súčasťou výuky odboja.
    Reagovať

Vyhľadávanie

Kyocer TASK

Najnovšie videá