Image
26.7.2016 1 Comments

Analógia Asimovových zákonov pre UI. Šéf Microsoftu navrhol širšie princípy vývoja umelej inteligencie

Tri zákony robotiky, ktoré sformuloval Isaac Asimov, sú známe už niekoľko desaťročí. Pokrok v oblasti umelej inteligencie však núti počítačových odborníkov a technologické firmy uvažovať o nových pravidlách, pretože je skutočne potrebná ochrana pred budúcimi robotmi a umelou inteligenciou. Tejto téme sa venoval aj šéf Microsoftu Satya Nadella. Jeho pravidlá však nie sú priamou analógiou Asimovových zákonov.

Týkajú sa skôr počítačových vedcov, ktorí budujú systémy umelej inteligencie a pracujú so strojovým učením. Skôr než na zastavenie nebezpečného robota sa sústreďujú na potenciálny sociálny dosah umelej inteligencie. Z toho dôvodu sa môžu zdať trochu nudnejšie (a rozhodne menej dramatické) ako Asimovove zákony.

Takéto sú teda Nadellove princípy:

- Umelá inteligencia musí byť navrhnutá tak, aby ľuďom asistovala – stroje, ktoré pracujú spolu s ľuďmi, by mali robiť „nebezpečnú prácu“, no zároveň „rešpektovať autonómiu ľudí“.
- Umelá inteligencia musí byť transparentná. „Chceme nielen inteligentné, ale aj zrozumiteľné stroje,“ hovorí Nadella. „Ľudia by mali chápať, ako táto technológia vidí a analyzuje svet.“
- Umelá inteligencia musí dosiahnuť maximálnu efektivitu bez toho, aby zničila dôstojnosť ľudí. „Potrebujeme širšie, hlbšie a rôznorodejšie zapojenie ľudí do navrhovania týchto systémov. Technologický priemysel by nemal diktovať hodnoty a cnosti budúcnosti.“
- Umelá inteligencia musí rešpektovať súkromie. Nadella žiada „sofistikovanú ochranu, ktorá zabezpečí osobné a skupinové informácie“.
- Umelá inteligencia musí mať algoritmickú zodpovednosť, aby ľudia mohli „napraviť nechcené ujmy“.
- Umelá inteligencia musí chrániť pred predsudkami. Treba zabezpečiť, aby umelá inteligencia nediskriminovala ľudí (tak ako to robia sami ľudia).

Neraz možno počuť o „systémových chybách“.  A vo svete technológií sa skutočne často bojuje o to, aby sa zvážili rôzne názory a veci sa neposudzovali čiernobielo. To platí dvojnásobne pre systémy strojového učenia, ktoré musia rozhodovať v prospech ľudí. Je tu totiž šanca, že neznalosť technikov  či dokonca ich predsudky skončia pevne zabudované do systému.

Okrem týchto cieľov sa Nadella venoval aj ekonomickým aspektom robotiky, teda tomu, čo sa stane, ak roboty budú brať prácu ľuďom. Tu síce nedáva nijakú jasnú odpoveď, ale zdôrazňuje naliehavú potrebu myslieť na to v budúcnosti. Ako dôležité faktory v tomto smere vyzdvihuje empatiu, vzdelanie, kreativitu, súdnosť a zodpovednosť. Skrátka, v honbe za čoraz dokonalejšími autonómnymi strojmi a systémami neslobodno zabúdať na to, že tieto systémy nám majú pomáhať, a nie ubližovať.

Zdroj: theverge.com

Autor: Redakcia

Nechajte si posielať prehľad najdôležitejších správ emailom

Mohlo by Vás zaujímať

Technológie

Budúcnosť bezdrôtového nabíjania. Ossia Cota sa postará o všetku elektroniku v celom dome

19.01.2017 00:30

Spoločnosť Ossia pútala pozornosť návštevníkov svojou pôsobivou demonštráciou už na vlaňajšom veľtrhu CES. A inak to nebolo ani v tomto roku. Bezdrôtová technológia Cota pozostáva z vysielača, prijím ...

Technológie 1

Spreje na vypínanie génov umožnia geneticky zlepšovať rastliny bez zmeny DNA

18.01.2017 00:40

Ak sa vám nepáči farba niektorých kvetov v záhrade, možno ju jedného dňa budete môcť zmeniť jednoduchým postriekaním sprejom, ktorý vypne ich určité gény. Poľnohospodári môžu takéto postreky na vypín ...

Technológie

DeepStack – umelá inteligencia, ktorá vďaka intuícii porazí v pokeri aj profesionálnych hráčov

16.01.2017 00:25

Roboty hrajúce poker nie sú úplná novinka, no tím vedcov z kanadskej Albertskej univerzity, Karlovej univerzity a ČVUT (České vysoké učení technické) položil latku trochu vyššie. V dokumente (PDF) uv ...

1 Comments

  1. Nadell, Nadell reakcia na: Analógia Asimovových zákonov pre UI. Šéf Microsoftu navrhol širšie princípy vývoja umelej inteligencie
    27.7.2016 11:07
    V druhom bode vlastne povedal, ze nechceme umelu inteligenciu ktora je inteligentnejsia ako my. Cize vlastne chceme len hlupych otrokov ... To ale znamena obrovsku brzdu, kedze inteligentnejsi dokaze najst riesenia problemov na ktore menej inteligentny v zivote nepride ... Je to samozrejme aj nebezpecne, ale v tom je ta vyzva. Povedat ale rovno, ze UI nesmie byt inteligentnejsia ako my ... Hm, Microsoft ako vzdy ...
    Reagovať

Vyhľadávanie

qubitconference

Najnovšie videá