Analógia Asimovových zákonov pre UI. Šéf Microsoftu navrhol širšie princípy vývoja umelej inteligencie

Technológie
1

Tri zákony robotiky, ktoré sformuloval Isaac Asimov, sú známe už niekoľko desaťročí. Pokrok v oblasti umelej inteligencie však núti počítačových odborníkov a technologické firmy uvažovať o nových pravidlách, pretože je skutočne potrebná ochrana pred budúcimi robotmi a umelou inteligenciou. Tejto téme sa venoval aj šéf Microsoftu Satya Nadella. Jeho pravidlá však nie sú priamou analógiou Asimovových zákonov.

Týkajú sa skôr počítačových vedcov, ktorí budujú systémy umelej inteligencie a pracujú so strojovým učením. Skôr než na zastavenie nebezpečného robota sa sústreďujú na potenciálny sociálny dosah umelej inteligencie. Z toho dôvodu sa môžu zdať trochu nudnejšie (a rozhodne menej dramatické) ako Asimovove zákony.

Takéto sú teda Nadellove princípy:

- Umelá inteligencia musí byť navrhnutá tak, aby ľuďom asistovala – stroje, ktoré pracujú spolu s ľuďmi, by mali robiť „nebezpečnú prácu“, no zároveň „rešpektovať autonómiu ľudí“.
- Umelá inteligencia musí byť transparentná. „Chceme nielen inteligentné, ale aj zrozumiteľné stroje,“ hovorí Nadella. „Ľudia by mali chápať, ako táto technológia vidí a analyzuje svet.“
- Umelá inteligencia musí dosiahnuť maximálnu efektivitu bez toho, aby zničila dôstojnosť ľudí. „Potrebujeme širšie, hlbšie a rôznorodejšie zapojenie ľudí do navrhovania týchto systémov. Technologický priemysel by nemal diktovať hodnoty a cnosti budúcnosti.“
- Umelá inteligencia musí rešpektovať súkromie. Nadella žiada „sofistikovanú ochranu, ktorá zabezpečí osobné a skupinové informácie“.
- Umelá inteligencia musí mať algoritmickú zodpovednosť, aby ľudia mohli „napraviť nechcené ujmy“.
- Umelá inteligencia musí chrániť pred predsudkami. Treba zabezpečiť, aby umelá inteligencia nediskriminovala ľudí (tak ako to robia sami ľudia).

Neraz možno počuť o „systémových chybách“.  A vo svete technológií sa skutočne často bojuje o to, aby sa zvážili rôzne názory a veci sa neposudzovali čiernobielo. To platí dvojnásobne pre systémy strojového učenia, ktoré musia rozhodovať v prospech ľudí. Je tu totiž šanca, že neznalosť technikov  či dokonca ich predsudky skončia pevne zabudované do systému.

Okrem týchto cieľov sa Nadella venoval aj ekonomickým aspektom robotiky, teda tomu, čo sa stane, ak roboty budú brať prácu ľuďom. Tu síce nedáva nijakú jasnú odpoveď, ale zdôrazňuje naliehavú potrebu myslieť na to v budúcnosti. Ako dôležité faktory v tomto smere vyzdvihuje empatiu, vzdelanie, kreativitu, súdnosť a zodpovednosť. Skrátka, v honbe za čoraz dokonalejšími autonómnymi strojmi a systémami neslobodno zabúdať na to, že tieto systémy nám majú pomáhať, a nie ubližovať.

Zdroj: theverge.com

Redakcia

Všetky autorove články
Microsoft Nadella umela inteligencia

1 komentár

Nadell, Nadell reakcia na: Analógia Asimovových zákonov pre UI. Šéf Microsoftu navrhol širšie princípy vývoja umelej inteligencie

27.7.2016 11:07
V druhom bode vlastne povedal, ze nechceme umelu inteligenciu ktora je inteligentnejsia ako my. Cize vlastne chceme len hlupych otrokov ... To ale znamena obrovsku brzdu, kedze inteligentnejsi dokaze najst riesenia problemov na ktore menej inteligentny v zivote nepride ... Je to samozrejme aj nebezpecne, ale v tom je ta vyzva. Povedat ale rovno, ze UI nesmie byt inteligentnejsia ako my ... Hm, Microsoft ako vzdy ...

Pridať komentár

Mohlo by vás zaujímať

Mohlo by vás zaujímať