Image
18.6.2018 0 Comments

Google uverejnil základné zásady využívania umelej inteligencie. Odmieta jej použitie v zbraniach a na špionáž

CEO Googlu Sundar Pichai v týchto dňoch uverejnil v blogovom príspevku sľúbené etické princípy, ktoré by sa mali dodržiavať pri vývoji umelej inteligencie. Google v nich odmieta použitie umelej inteligencie v zbraniach a na špionáž s niekoľkými výhradami. Spoločnosť bude aj naďalej spolupracovať s vládou a armádou v iných oblastiach vrátane kybernetickej bezpečnosti a výcviku.

Vyhýbať sa však bude sledovaniu, ktoré porušuje „medzinárodne prijaté normy“, píše Pichai. Takisto nebude pracovať na technológiách, ktoré pravdepodobne spôsobia škody, pokiaľ sa nerozhodne, že „výhody podstatne prevážia riziká“.

Usmernenia prichádzajú po mesiacoch internej diskusie vyplývajúcej z partnerstva spoločnosti Google s Pentagonom s cieľom využívať umelú inteligenciu na analýzu záznamov z dronov. Niekoľko tisíc zamestnancov podpísalo petíciu vyzývajúcu Pichaia, aby Google nezapájal do „vojny“, a desiatky vedúcich pracovníkov podali na protest rezignáciu.

Zásady ponechávajú priestor cloudovému biznisu spoločnosti, aby Google mohol predkladať ponuky na zmluvy s vládnymi agentúrami alebo armádou. Spoločnosť tiež tvrdí, že „bude pracovať na obmedzení potenciálne škodlivej alebo nevhodnej aplikácii“ svojich technológií umelej inteligencie.

Pravda, Google nemôže ovládať všetky aspekty svojej technológie, napríklad svoj open source AI softvér TensorFlow. Podľa vyjadrenia hovorcu spoločnosti sa však môže pokúsiť využiť svoj vplyv v open source komunite a môže priamo kontrolovať ďalšie nástroje, ako sú súpravy na vývoj softvéru (SDK), prostredníctvom prísnejších licenčných dohôd.

Zásady, ktoré treba pri vývoji AI  dodržiavať, sú nasledujúce:

1. AI.musí byť spoločensky prospešná
2. AI musí byť objektívna, treba sa vyhnúť nespravodlivej zaujatosti
3. AI musí byť bezpečná
4. AI musí byť podriadená človeku
5. AI musí mať zapracované zásady na ochranu osobných údajov
6. Dizajn AI musí dodržiavať vysoké štandardy vedeckej práce
7. AI dáme k dispozícii na použitie ako službu len v prípade, že jej aplikovanie nebude v rozpore s predchádzajúcimi bodmi.

Pichai určil aj oblasti, v ktorých Google nebude používať svoje technológie AI:

1. Technológie, ktoré spôsobujú alebo môžu spôsobiť škody
2. Zbrane alebo iné technológie, ktorých hlavným účelom je spôsobiť alebo priamo umožniť zranenie osôb
3. Technológie, ktoré zhromažďujú alebo používajú informácie na špionáž porušujúcu medzinárodne uznávané normy
4. Technológie, ktoré porušujú všeobecne uznávané zásady medzinárodného práva a ľudských práv

Niektoré zo zásad sú však dosť neurčité. Pokúsi sa Google sám usúdiť, čo dobré a zlé môže pochádzať zo softvéru AI? A nie je jasné ani to, kto rozhodne, či Google svoje záväzky dodržal. Peter Eckersley z organizácie Electronic Frontier Foundation si myslí, že Google by sa mal zaviazať k nezávislému procesu preskúmania. Pretože veľké technológie musia smerovať k väčšej zodpovednosti.

Zdroj: cnbc.com, bloomberg.com.

Zobrazit Galériu
Autor: Redakcia

Nechajte si posielať prehľad najdôležitejších správ emailom

Mohlo by Vás zaujímať

Technológie

Smartfóny Pixel 3 dostanú funkciu prepisu hovorov. Pomôže to odfiltrovať „agentov s teplou vodou“...

07.12.2018 00:15

Funkcia Call screen je jeden z najpôsobivejších prínosov smartfónov Pixel 3. Umožňuje totiž odfiltrovať spamové hovory. A zavedením novej vlastnosti sa ešte zlepší. Call Screen používa Asistenta Goog ...

Technológie

Tachyum: Vývoj čipu pre umelú inteligenciu sa posúva do fázy prípravy výroby, možno to bude práve na Slovensku

06.12.2018 00:20

Spoločnosť Tachyum s dcérskymi spoločnosťami v americkom San Jose a v Bratislave, ktorú založil úspešný hardvérový architekt a vynálezca Radoslav Danilák, nedávno dosiahla zásadný míľnik vo vývoji pre ...

Technológie 1

Blíži sa koniec SIM. Orange predstavil eSIM zabudované priamo do hodiniek

05.12.2018 11:16

Možno si ešte pamätáte prvé SIM karty veľkosti kreditky. Postupne sa SIM karta zmenšovala a v súčasnosti aj najmenšia verzia nanoSIM je pre niektoré mobilné zariadenia, napríklad inteligentné hodinky ...

q

Žiadne komentáre

Vyhľadávanie

OKI_122018

Najnovšie videá



PC forum button