Image
26.7.2016 1 Comments

Analógia Asimovových zákonov pre UI. Šéf Microsoftu navrhol širšie princípy vývoja umelej inteligencie

Tri zákony robotiky, ktoré sformuloval Isaac Asimov, sú známe už niekoľko desaťročí. Pokrok v oblasti umelej inteligencie však núti počítačových odborníkov a technologické firmy uvažovať o nových pravidlách, pretože je skutočne potrebná ochrana pred budúcimi robotmi a umelou inteligenciou. Tejto téme sa venoval aj šéf Microsoftu Satya Nadella. Jeho pravidlá však nie sú priamou analógiou Asimovových zákonov.

Týkajú sa skôr počítačových vedcov, ktorí budujú systémy umelej inteligencie a pracujú so strojovým učením. Skôr než na zastavenie nebezpečného robota sa sústreďujú na potenciálny sociálny dosah umelej inteligencie. Z toho dôvodu sa môžu zdať trochu nudnejšie (a rozhodne menej dramatické) ako Asimovove zákony.

Takéto sú teda Nadellove princípy:

- Umelá inteligencia musí byť navrhnutá tak, aby ľuďom asistovala – stroje, ktoré pracujú spolu s ľuďmi, by mali robiť „nebezpečnú prácu“, no zároveň „rešpektovať autonómiu ľudí“.
- Umelá inteligencia musí byť transparentná. „Chceme nielen inteligentné, ale aj zrozumiteľné stroje,“ hovorí Nadella. „Ľudia by mali chápať, ako táto technológia vidí a analyzuje svet.“
- Umelá inteligencia musí dosiahnuť maximálnu efektivitu bez toho, aby zničila dôstojnosť ľudí. „Potrebujeme širšie, hlbšie a rôznorodejšie zapojenie ľudí do navrhovania týchto systémov. Technologický priemysel by nemal diktovať hodnoty a cnosti budúcnosti.“
- Umelá inteligencia musí rešpektovať súkromie. Nadella žiada „sofistikovanú ochranu, ktorá zabezpečí osobné a skupinové informácie“.
- Umelá inteligencia musí mať algoritmickú zodpovednosť, aby ľudia mohli „napraviť nechcené ujmy“.
- Umelá inteligencia musí chrániť pred predsudkami. Treba zabezpečiť, aby umelá inteligencia nediskriminovala ľudí (tak ako to robia sami ľudia).

Neraz možno počuť o „systémových chybách“.  A vo svete technológií sa skutočne často bojuje o to, aby sa zvážili rôzne názory a veci sa neposudzovali čiernobielo. To platí dvojnásobne pre systémy strojového učenia, ktoré musia rozhodovať v prospech ľudí. Je tu totiž šanca, že neznalosť technikov  či dokonca ich predsudky skončia pevne zabudované do systému.

Okrem týchto cieľov sa Nadella venoval aj ekonomickým aspektom robotiky, teda tomu, čo sa stane, ak roboty budú brať prácu ľuďom. Tu síce nedáva nijakú jasnú odpoveď, ale zdôrazňuje naliehavú potrebu myslieť na to v budúcnosti. Ako dôležité faktory v tomto smere vyzdvihuje empatiu, vzdelanie, kreativitu, súdnosť a zodpovednosť. Skrátka, v honbe za čoraz dokonalejšími autonómnymi strojmi a systémami neslobodno zabúdať na to, že tieto systémy nám majú pomáhať, a nie ubližovať.

Zdroj: theverge.com

Autor: Redakcia

Nechajte si posielať prehľad najdôležitejších správ emailom

Mohlo by Vás zaujímať

Technológie

Koniec dokazovania, že nie sme robot. Google pripravuje systém Neviditeľná reCAPTCHA

07.12.2016 11:38

Pred niekoľkými rokmi Google zjednodušil používateľom webu dokazovanie, že sú ľudia, a nie automatizované roboty, keď nahradil systém CAPTCHA (akronym pre Completely Automated Public Turing test to te ...

Technológie 1

Video: Virtuálna realita ukazuje, čo sa môže stať, ak budete auto šoférovať opití

07.12.2016 00:21

Britská spoločnosť Diaego, ktorej patria značky ako Johnnie Walker, Smirnoff či Guinness použila „taktiku zastrašovania“  a spojila svoje sily so Samsungom pri tvorbe dosť hrôzostrašného videa s virtu ...

Technológie

Telefón nabitý do minúty a batéria poháňaná baktériami? Na alternatívne zdroje energie si ešte počkáme

07.12.2016 00:16

Hoci batériám stále dominujú tie lítiovo-iónové, vedci priebežne hľadajú efektívnejšie alternatívy. Nové prototypy vydržia napríklad 7500 cyklov vybitia a nabitia, majú až osemkrát vyššiu energetickú ...

1 Comments

  1. Nadell, Nadell reakcia na: Analógia Asimovových zákonov pre UI. Šéf Microsoftu navrhol širšie princípy vývoja umelej inteligencie
    27.7.2016 11:07
    V druhom bode vlastne povedal, ze nechceme umelu inteligenciu ktora je inteligentnejsia ako my. Cize vlastne chceme len hlupych otrokov ... To ale znamena obrovsku brzdu, kedze inteligentnejsi dokaze najst riesenia problemov na ktore menej inteligentny v zivote nepride ... Je to samozrejme aj nebezpecne, ale v tom je ta vyzva. Povedat ale rovno, ze UI nesmie byt inteligentnejsia ako my ... Hm, Microsoft ako vzdy ...
    Reagovať

Vyhľadávanie

Kyocera - prve-zariadenia-formatu-a4-s-vykonom-a3

Najnovšie videá