Image
31.10.2017 0 Comments

Vedci našli nástroj na analýzu toho, ako rozmýšľa neurónová sieť, aby urobili umelú inteligenciu bezpečnejšou

Systémy deep learning často robia rozhodnutia v tzv. čiernej skrinke – pre ľudí nie je ľahké pochopiť, prečo si neurónová sieť vybrala jedno riešenie namiesto iného, a tak je ťažké jej dôverovať. Je to preto, že stroje môžu v krátkom čase vykonať milióny testov, dospieť k riešeniu a potom vykonať milióny ďalších testov, aby našli ešte lepšie riešenie.

Výskumníci vytvorili softvér DeepXplore, ktorý umožňuje automaticky skontrolovať tisíce až milióny neurónov v hlbokej neurónovej sieti. Chyby v neurónovej sieti odhaľuje tým, že ju trikmi privedie do omylu, aby sa odhalili zriedkavé prípady nesprávneho uvažovania.

Pri riešení otázky čiernej skrinky bádatelia z Kolumbijskej univerzity a univerzity Lehigh podhodili systému sériu problémov, s ktorými sa nemohol celkom vyrovnať. Napríklad postupné zvýšenie či zníženie osvetlenia môže spôsobiť, že umelá inteligencia riadiaca vozidlo nebude schopná rozhodnúť o smere jazdy.

Stmavená fotografia spôsobila, že jedno zoskupenie neurónov rozhodlo, aby auto odbočilo vľavo, dve ďalšie zoskupenia odpovedali správne. Keďže prvé zoskupenie nesprávne klasifikovalo fotografiu, DeepXplore automaticky preškolí sieť, aby rozpoznala tmavší obrázok a opravila chybu.

Prostredníctvom inteligentnej optimalizácie nástroj DeepXplore dokáže spustiť aktivovanie 100 % neurónov v systéme - v podstate aktivuje celú sieť, aby sa jej pokúsil spôsobiť problémy. Vedci charakterizovali svoj testovací proces ako reverzné inžinierstvo procesu učenia na pochopenie jeho logiky.

Pravda, pokúsiť sa zistiť, ako pokročilá neurónová sieť prišla k špecifickému záveru, by bolo také, akoby ste chceli osobne spočítať presný počet jabĺk, aby ste „dokázali“ tvrdenie kalkulačky, že jeden milión vynásobený dvoma sa rovná dvom miliónom.

Výskumníci zo spomínaných dvoch univerzít chcú pokračovať v zdokonaľovaní DeepXplore, aby otvorili čiernu skrinku, aby systémy strojového učenia boli spoľahlivejšie a transparentnejšie. Teraz, keď sa rozhodovanie začína prenášať na stroje, musíme sa uistiť, že môžeme otestovať ich logiku, aby boli výsledky presné a správne, tvrdia vedci.

Schopnosť skontrolovať chyby najmodernejších neurónových sietí by znamenala začiatok dlhej cesty k integrácii umelej inteligencie do oblastí, ako je zdravotníctvo, doprava, bezpečnosť a obrana.

Zdroj: Thenextweb, Eurekalert

 

Zobrazit Galériu
Autor: Redakcia

Nechajte si posielať prehľad najdôležitejších správ emailom

Mohlo by Vás zaujímať

Výskum

Aké sú vianočné darčeky milionárov? Záujem je o obrazy, šperky, drahé vína ale aj bitcoiny

15.12.2017 00:15

Milionári si nielen počas Vianoc doprajú dávku luxusu. Medzi vianočnými darčekmi, ktoré kupujú svojej rodine či blízkym nechýbajú obrazy, drahé umelecké predmety, mince, staré autá a motocykle, hodink ...

Výskum

Sme predpojatí a väčšinou sa nerozhodujeme racionálne

06.12.2017 00:15

Nový výskum pod vedením Stefana Palminteria z École Normale Supérieure hovorí, že ľudia sa častejšie rozhodujú podľa pocitov, než racionálne. Posudzujeme, sme predpojatí a emocionálni viac ako racioná ...

Výskum

Na MIT vyvinuli 3D tlačiareň, ktorá je 10× rýchlejšia než súčasné modely. Rýchla 3D tlač prinesie veľké zmeny

05.12.2017 00:30

Zatiaľ čo bežné 3D tlačiarne môžu vyrobiť zopár kociek vo veľkosti lega za hodinu, nový model, ktorý vyvinuli inžinieri z MIT, môže vytlačiť objekty podobnej veľkosti za niekoľko minút. Kľúčom k dosia ...

Žiadne komentáre

Vyhľadávanie

PC forum button

Najnovšie videá