Image
31.10.2017 0 Comments

Vedci našli nástroj na analýzu toho, ako rozmýšľa neurónová sieť, aby urobili umelú inteligenciu bezpečnejšou

Systémy deep learning často robia rozhodnutia v tzv. čiernej skrinke – pre ľudí nie je ľahké pochopiť, prečo si neurónová sieť vybrala jedno riešenie namiesto iného, a tak je ťažké jej dôverovať. Je to preto, že stroje môžu v krátkom čase vykonať milióny testov, dospieť k riešeniu a potom vykonať milióny ďalších testov, aby našli ešte lepšie riešenie.

Výskumníci vytvorili softvér DeepXplore, ktorý umožňuje automaticky skontrolovať tisíce až milióny neurónov v hlbokej neurónovej sieti. Chyby v neurónovej sieti odhaľuje tým, že ju trikmi privedie do omylu, aby sa odhalili zriedkavé prípady nesprávneho uvažovania.

Pri riešení otázky čiernej skrinky bádatelia z Kolumbijskej univerzity a univerzity Lehigh podhodili systému sériu problémov, s ktorými sa nemohol celkom vyrovnať. Napríklad postupné zvýšenie či zníženie osvetlenia môže spôsobiť, že umelá inteligencia riadiaca vozidlo nebude schopná rozhodnúť o smere jazdy.

Stmavená fotografia spôsobila, že jedno zoskupenie neurónov rozhodlo, aby auto odbočilo vľavo, dve ďalšie zoskupenia odpovedali správne. Keďže prvé zoskupenie nesprávne klasifikovalo fotografiu, DeepXplore automaticky preškolí sieť, aby rozpoznala tmavší obrázok a opravila chybu.

Prostredníctvom inteligentnej optimalizácie nástroj DeepXplore dokáže spustiť aktivovanie 100 % neurónov v systéme - v podstate aktivuje celú sieť, aby sa jej pokúsil spôsobiť problémy. Vedci charakterizovali svoj testovací proces ako reverzné inžinierstvo procesu učenia na pochopenie jeho logiky.

Pravda, pokúsiť sa zistiť, ako pokročilá neurónová sieť prišla k špecifickému záveru, by bolo také, akoby ste chceli osobne spočítať presný počet jabĺk, aby ste „dokázali“ tvrdenie kalkulačky, že jeden milión vynásobený dvoma sa rovná dvom miliónom.

Výskumníci zo spomínaných dvoch univerzít chcú pokračovať v zdokonaľovaní DeepXplore, aby otvorili čiernu skrinku, aby systémy strojového učenia boli spoľahlivejšie a transparentnejšie. Teraz, keď sa rozhodovanie začína prenášať na stroje, musíme sa uistiť, že môžeme otestovať ich logiku, aby boli výsledky presné a správne, tvrdia vedci.

Schopnosť skontrolovať chyby najmodernejších neurónových sietí by znamenala začiatok dlhej cesty k integrácii umelej inteligencie do oblastí, ako je zdravotníctvo, doprava, bezpečnosť a obrana.

Zdroj: Thenextweb, Eurekalert

 

Zobrazit Galériu
Autor: Redakcia

Nechajte si posielať prehľad najdôležitejších správ emailom

Mohlo by Vás zaujímať

Výskum

Vedci majú plán pre obnovu Sahary. Solárne a veterné elektrárne by mohli priniesť do púšte dážď a zeleň

21.09.2018 00:25

Sahara je najväčšia horúca púšť na svete, rozľahlá piesočnatá krajina trpiaca smrtiacim suchom, ktorej rozloha sa stále zväčšuje. Vďaka jej slnečným podmienkam sa však už zrodilo veľa energetických pr ...

Výskum

Na webe denníku New York Times zistíte, ako sa od vášho narodenia oteplila klíma aj vo vašom rodisku

21.09.2018 00:15

Pre klimatické zmeny spôsobené ľuďmi možno očakávať, že na väčšine miest sa bude vyskytovať čoraz viac dní, keď teplota presiahne 32 °C. Môžete sa presvedčiť o tom, že už v súčasnosti je napríklad vo ...

Výskum

Grafén umožní taktovať procesory na terahertzových frekvenciách

14.09.2018 00:10

Grafén sa považuje za sľubný materiál pre nanoelektroniku budúcnosti. Teoreticky by mal umožňovať taktovacie frekvencie až tisíckrát vyššie ako súčasná kremíková elektronika. Teraz vedci z Helmholtz Z ...

q

Žiadne komentáre

Vyhľadávanie

IWAYDAY_2018

Najnovšie videá



PC forum button