Image
18.6.2018 0 Comments

Google uverejnil základné zásady využívania umelej inteligencie. Odmieta jej použitie v zbraniach a na špionáž

CEO Googlu Sundar Pichai v týchto dňoch uverejnil v blogovom príspevku sľúbené etické princípy, ktoré by sa mali dodržiavať pri vývoji umelej inteligencie. Google v nich odmieta použitie umelej inteligencie v zbraniach a na špionáž s niekoľkými výhradami. Spoločnosť bude aj naďalej spolupracovať s vládou a armádou v iných oblastiach vrátane kybernetickej bezpečnosti a výcviku.

Vyhýbať sa však bude sledovaniu, ktoré porušuje „medzinárodne prijaté normy“, píše Pichai. Takisto nebude pracovať na technológiách, ktoré pravdepodobne spôsobia škody, pokiaľ sa nerozhodne, že „výhody podstatne prevážia riziká“.

Usmernenia prichádzajú po mesiacoch internej diskusie vyplývajúcej z partnerstva spoločnosti Google s Pentagonom s cieľom využívať umelú inteligenciu na analýzu záznamov z dronov. Niekoľko tisíc zamestnancov podpísalo petíciu vyzývajúcu Pichaia, aby Google nezapájal do „vojny“, a desiatky vedúcich pracovníkov podali na protest rezignáciu.

Zásady ponechávajú priestor cloudovému biznisu spoločnosti, aby Google mohol predkladať ponuky na zmluvy s vládnymi agentúrami alebo armádou. Spoločnosť tiež tvrdí, že „bude pracovať na obmedzení potenciálne škodlivej alebo nevhodnej aplikácii“ svojich technológií umelej inteligencie.

Pravda, Google nemôže ovládať všetky aspekty svojej technológie, napríklad svoj open source AI softvér TensorFlow. Podľa vyjadrenia hovorcu spoločnosti sa však môže pokúsiť využiť svoj vplyv v open source komunite a môže priamo kontrolovať ďalšie nástroje, ako sú súpravy na vývoj softvéru (SDK), prostredníctvom prísnejších licenčných dohôd.

Zásady, ktoré treba pri vývoji AI  dodržiavať, sú nasledujúce:

1. AI.musí byť spoločensky prospešná
2. AI musí byť objektívna, treba sa vyhnúť nespravodlivej zaujatosti
3. AI musí byť bezpečná
4. AI musí byť podriadená človeku
5. AI musí mať zapracované zásady na ochranu osobných údajov
6. Dizajn AI musí dodržiavať vysoké štandardy vedeckej práce
7. AI dáme k dispozícii na použitie ako službu len v prípade, že jej aplikovanie nebude v rozpore s predchádzajúcimi bodmi.

Pichai určil aj oblasti, v ktorých Google nebude používať svoje technológie AI:

1. Technológie, ktoré spôsobujú alebo môžu spôsobiť škody
2. Zbrane alebo iné technológie, ktorých hlavným účelom je spôsobiť alebo priamo umožniť zranenie osôb
3. Technológie, ktoré zhromažďujú alebo používajú informácie na špionáž porušujúcu medzinárodne uznávané normy
4. Technológie, ktoré porušujú všeobecne uznávané zásady medzinárodného práva a ľudských práv

Niektoré zo zásad sú však dosť neurčité. Pokúsi sa Google sám usúdiť, čo dobré a zlé môže pochádzať zo softvéru AI? A nie je jasné ani to, kto rozhodne, či Google svoje záväzky dodržal. Peter Eckersley z organizácie Electronic Frontier Foundation si myslí, že Google by sa mal zaviazať k nezávislému procesu preskúmania. Pretože veľké technológie musia smerovať k väčšej zodpovednosti.

Zdroj: cnbc.com, bloomberg.com.

Zobrazit Galériu
Autor: Redakcia

Nechajte si posielať prehľad najdôležitejších správ emailom

Mohlo by Vás zaujímať

Technológie

Miniatúrny dron UDrone môžete ovládať myšlienkami a gestami

15.03.2019 00:10

Predstavte si, o koľko viac zábavy by ste si mohli užiť s dronom, keby ste sa zbavili ovládača v ruke a ovládali ho čisto myšlienkami. Nad tým sa zamysleli v čínskej firme EEGSmart a vytvorili minikva ...

Technológie

NAS od Synology pre nadšencov, podnikateľov, malé firmy a tímy

15.03.2019 00:05

Motto: Sú len dva typy podnikateľov pracujúcich s údajmi. Tí, ktorí zálohujú, a tí, ktorí budú zálohovať. Aj malé firmy, živnosti a slobodné povolania často potrebujú ukladať veľké množstvo údajov. ...

Technológie

Spoznajte rybára, ktorý chytil vášho tuniaka. Aj to umožňujú moderné technológie

15.03.2019 00:00

Blockchain nie je len technológia, na ktorej stojí svet virtuálnych mien. Umožňuje aj úplne nový typ služieb pre bežných ľudí, ktorí majú napríklad radi steak z tuniaka. Priamo v obchode si dokážu vďa ...

q

Žiadne komentáre

Vyhľadávanie

SWIFT 5_032019

Najnovšie videá

IT medzi paragrafmi


PC forum button