Image
31.10.2017 0 Comments

Vedci našli nástroj na analýzu toho, ako rozmýšľa neurónová sieť, aby urobili umelú inteligenciu bezpečnejšou

Systémy deep learning často robia rozhodnutia v tzv. čiernej skrinke – pre ľudí nie je ľahké pochopiť, prečo si neurónová sieť vybrala jedno riešenie namiesto iného, a tak je ťažké jej dôverovať. Je to preto, že stroje môžu v krátkom čase vykonať milióny testov, dospieť k riešeniu a potom vykonať milióny ďalších testov, aby našli ešte lepšie riešenie.

Výskumníci vytvorili softvér DeepXplore, ktorý umožňuje automaticky skontrolovať tisíce až milióny neurónov v hlbokej neurónovej sieti. Chyby v neurónovej sieti odhaľuje tým, že ju trikmi privedie do omylu, aby sa odhalili zriedkavé prípady nesprávneho uvažovania.

Pri riešení otázky čiernej skrinky bádatelia z Kolumbijskej univerzity a univerzity Lehigh podhodili systému sériu problémov, s ktorými sa nemohol celkom vyrovnať. Napríklad postupné zvýšenie či zníženie osvetlenia môže spôsobiť, že umelá inteligencia riadiaca vozidlo nebude schopná rozhodnúť o smere jazdy.

Stmavená fotografia spôsobila, že jedno zoskupenie neurónov rozhodlo, aby auto odbočilo vľavo, dve ďalšie zoskupenia odpovedali správne. Keďže prvé zoskupenie nesprávne klasifikovalo fotografiu, DeepXplore automaticky preškolí sieť, aby rozpoznala tmavší obrázok a opravila chybu.

Prostredníctvom inteligentnej optimalizácie nástroj DeepXplore dokáže spustiť aktivovanie 100 % neurónov v systéme - v podstate aktivuje celú sieť, aby sa jej pokúsil spôsobiť problémy. Vedci charakterizovali svoj testovací proces ako reverzné inžinierstvo procesu učenia na pochopenie jeho logiky.

Pravda, pokúsiť sa zistiť, ako pokročilá neurónová sieť prišla k špecifickému záveru, by bolo také, akoby ste chceli osobne spočítať presný počet jabĺk, aby ste „dokázali“ tvrdenie kalkulačky, že jeden milión vynásobený dvoma sa rovná dvom miliónom.

Výskumníci zo spomínaných dvoch univerzít chcú pokračovať v zdokonaľovaní DeepXplore, aby otvorili čiernu skrinku, aby systémy strojového učenia boli spoľahlivejšie a transparentnejšie. Teraz, keď sa rozhodovanie začína prenášať na stroje, musíme sa uistiť, že môžeme otestovať ich logiku, aby boli výsledky presné a správne, tvrdia vedci.

Schopnosť skontrolovať chyby najmodernejších neurónových sietí by znamenala začiatok dlhej cesty k integrácii umelej inteligencie do oblastí, ako je zdravotníctvo, doprava, bezpečnosť a obrana.

Zdroj: Thenextweb, Eurekalert

 

Zobrazit Galériu
Autor: Redakcia

Nechajte si posielať prehľad najdôležitejších správ emailom

Mohlo by Vás zaujímať

Výskum

Začínajú práce na zvýšení luminozity veľkého hadrónového urýchľovača

20.06.2018 00:00

Veľký hadrónový urýchľovač (LHC) oficiálne vstupuje do novej etapy.CERN dnes oslavuje začiatok stavebných prác na Vysokoluminozitnom LHC (HL-LHC), čo je nový míľnik v histórii CERNu. Do r. 2026 táto v ...

Výskum 1

Vedci pracujú na vakcíne, vďaka ktorej by sme boli odolní voči stresu, úzkosti a depresiám

14.06.2018 00:20

Vedci len v posledných rokoch objavili zvláštny vzťah medzi baktériami, zápalmi a náladou. Predpokladá sa, že niektoré stavy, ako napríklad depresia, môžu byť spôsobené zápalovými procesmi v mozgu, je ...

Výskum 1

Rozbité nanodiamanty umožnia vytvoriť veľmi trvácne mazivo s extrémne nízkym trením

08.06.2018 00:20

Tímu vedcov v Argonne National Laboratory patriacom americkému ministerstvu energetiky sa kombináciou rozbitých nanodiamantov s dvojdimenzionálnymi vrstvami disulfidu molybdénu podarilo vytvoriť pozor ...

q

Žiadne komentáre

Vyhľadávanie

SWAN_06

Najnovšie videá



PC forum button