Image
14.6.2016 0 Comments

Google vyvíja „veľké červené tlačidlo“ na vypnutie umelej inteligencie, ak sa vzoprie ľuďom

Mnohé známe osobnosti vrátane Elona Muska a Stephena Hawkinga varovali pred ničivými dôsledkami vymknutia sa umelej inteligencie spod kontroly. A zdá sa, že myšlienka, že by nás raz roboti a algoritmy mohli prestať poslúchať, nedáva spávať ani tímu výskumného laboratória Deep Mind, patriaceho Googlu. Preto v spolupráci s vedcami z Oxfordskej univerzity pracuje na spôsobe, ako zabrániť „robokalypse“ a v prípade potreby umelú inteligenciu „zabiť“.

V dokumente PDF Safely Interruptible Agents, publikovanom na webovej stránke Machine Intelligence Research Institute (MIRI), výskumníci vysvetľujú, že je „nepravdepodobné, že by sa umelá inteligencia správala po celý čas optimálne“. Preto je podľa nich dôležité, aby ľudský operátor mohol „stlačiť veľké červené tlačidlo a zabrániť robotovi pokračovať v škodlivej postupnosti akcií“.  Ako príklad uvádzajú umelú inteligenciu, ktorá sa v roku 2013 naučila hrať Tetris, a aby zabránila prehre, zastavila hru.

Deep Mind v podstate vyvinul framework, ktorý nedovolí umelej inteligencii, aby sa naučila, ako predchádzať prerušeniu akejkoľvek jej činnosti ľuďmi. Bezpečná prerušiteľnosť môže byť užitočná na prevzatie kontroly nad robotom, ktorý sa nespráva korektne a jeho správanie by mohlo mať nezvratné dôsledky.

Tím Deep Mind si však nie je istý, či jeho mechanizmus prerušenia je použiteľný pre všetky algoritmy. Vedci zistili, že niektoré algoritmy, napr. Q-learning (technika spätnoväzbového učenia), sú bezpečne prerušiteľné, zatiaľ čo iné, ako je napr. Sarsa, také nie sú. Môžu však byť relatívne ľahko zmenené, aby sa takými stali.

„No nie je jasné, či všetky algoritmy možno urobiť bezpečne a ľahko prerušiteľnými,“ priznávajú autori dokumentu.

Je dôležité začať pracovať na bezpečnosti umelej inteligencie ešte pred tým, než vzniknú nejaké problémy. Žiadny systém však nebude nikdy úplne spoľahlivý. Preto je dôležité mať možnosť v okamihu vypnúť systém. No ešte lepšie by bolo, keby program umelej inteligencie mohol zistiť, keď niečo nie je v poriadku, a sám sa zastaviť.

Zdroj: businessinsider.com

bbc.com

Autor: Redakcia

Nechajte si posielať prehľad najdôležitejších správ emailom

Mohlo by Vás zaujímať

Technológie

Koniec dokazovania, že nie sme robot. Google pripravuje systém Neviditeľná reCAPTCHA

07.12.2016 11:38

Pred niekoľkými rokmi Google zjednodušil používateľom webu dokazovanie, že sú ľudia, a nie automatizované roboty, keď nahradil systém CAPTCHA (akronym pre Completely Automated Public Turing test to te ...

Technológie 1

Video: Virtuálna realita ukazuje, čo sa môže stať, ak budete auto šoférovať opití

07.12.2016 00:21

Britská spoločnosť Diaego, ktorej patria značky ako Johnnie Walker, Smirnoff či Guinness použila „taktiku zastrašovania“  a spojila svoje sily so Samsungom pri tvorbe dosť hrôzostrašného videa s virtu ...

Technológie

Telefón nabitý do minúty a batéria poháňaná baktériami? Na alternatívne zdroje energie si ešte počkáme

07.12.2016 00:16

Hoci batériám stále dominujú tie lítiovo-iónové, vedci priebežne hľadajú efektívnejšie alternatívy. Nové prototypy vydržia napríklad 7500 cyklov vybitia a nabitia, majú až osemkrát vyššiu energetickú ...

Žiadne komentáre

Vyhľadávanie

Kyocera - prve-zariadenia-formatu-a4-s-vykonom-a3

Najnovšie videá