Image
14.6.2016 0 Comments

Google vyvíja „veľké červené tlačidlo“ na vypnutie umelej inteligencie, ak sa vzoprie ľuďom

Mnohé známe osobnosti vrátane Elona Muska a Stephena Hawkinga varovali pred ničivými dôsledkami vymknutia sa umelej inteligencie spod kontroly. A zdá sa, že myšlienka, že by nás raz roboti a algoritmy mohli prestať poslúchať, nedáva spávať ani tímu výskumného laboratória Deep Mind, patriaceho Googlu. Preto v spolupráci s vedcami z Oxfordskej univerzity pracuje na spôsobe, ako zabrániť „robokalypse“ a v prípade potreby umelú inteligenciu „zabiť“.

V dokumente PDF Safely Interruptible Agents, publikovanom na webovej stránke Machine Intelligence Research Institute (MIRI), výskumníci vysvetľujú, že je „nepravdepodobné, že by sa umelá inteligencia správala po celý čas optimálne“. Preto je podľa nich dôležité, aby ľudský operátor mohol „stlačiť veľké červené tlačidlo a zabrániť robotovi pokračovať v škodlivej postupnosti akcií“.  Ako príklad uvádzajú umelú inteligenciu, ktorá sa v roku 2013 naučila hrať Tetris, a aby zabránila prehre, zastavila hru.

Deep Mind v podstate vyvinul framework, ktorý nedovolí umelej inteligencii, aby sa naučila, ako predchádzať prerušeniu akejkoľvek jej činnosti ľuďmi. Bezpečná prerušiteľnosť môže byť užitočná na prevzatie kontroly nad robotom, ktorý sa nespráva korektne a jeho správanie by mohlo mať nezvratné dôsledky.

Tím Deep Mind si však nie je istý, či jeho mechanizmus prerušenia je použiteľný pre všetky algoritmy. Vedci zistili, že niektoré algoritmy, napr. Q-learning (technika spätnoväzbového učenia), sú bezpečne prerušiteľné, zatiaľ čo iné, ako je napr. Sarsa, také nie sú. Môžu však byť relatívne ľahko zmenené, aby sa takými stali.

„No nie je jasné, či všetky algoritmy možno urobiť bezpečne a ľahko prerušiteľnými,“ priznávajú autori dokumentu.

Je dôležité začať pracovať na bezpečnosti umelej inteligencie ešte pred tým, než vzniknú nejaké problémy. Žiadny systém však nebude nikdy úplne spoľahlivý. Preto je dôležité mať možnosť v okamihu vypnúť systém. No ešte lepšie by bolo, keby program umelej inteligencie mohol zistiť, keď niečo nie je v poriadku, a sám sa zastaviť.

Zdroj: businessinsider.com

bbc.com

Autor: Redakcia

Nechajte si posielať prehľad najdôležitejších správ emailom

Mohlo by Vás zaujímať

Technológie

DeepStack – umelá inteligencia, ktorá vďaka intuícii porazí v pokeri aj profesionálnych hráčov

16.01.2017 00:25

Roboty hrajúce poker nie sú úplná novinka, no tím vedcov z kanadskej Albertskej univerzity, Karlovej univerzity a ČVUT (České vysoké učení technické) položil latku trochu vyššie. V dokumente (PDF) uv ...

Technológie

Hardvérová divízia Facebooku pracuje na technológii, ktorá vyzerá ako čítanie myšlienok

16.01.2017 00:30

Pred istým časom sa Mark Zuckerberg v jednom rozhovore vyjadril, že je presvedčený o tom, že jedného dňa si ľudia budú navzájom posielať myšlienky s využitím digitálnych technológií. Teraz sa jeho sen ...

Technológie

PR: Konferencia ShowIT – ukážeme vám novinky TOP IT technológií

13.01.2017 00:05

Na začiatku, pred ôsmimi rokmi, bola myšlienka priniesť kvalitu zahraničných IT eventov na Slovensko. Dnes je IT konferencia ShowIT už tradičná zimná vzdelávacia udalosť v Bratislave. Poďte sa s nami ...

Žiadne komentáre

Vyhľadávanie

qubitconference

Najnovšie videá