Image
26.7.2016 1 Comments

Analógia Asimovových zákonov pre UI. Šéf Microsoftu navrhol širšie princípy vývoja umelej inteligencie

Tri zákony robotiky, ktoré sformuloval Isaac Asimov, sú známe už niekoľko desaťročí. Pokrok v oblasti umelej inteligencie však núti počítačových odborníkov a technologické firmy uvažovať o nových pravidlách, pretože je skutočne potrebná ochrana pred budúcimi robotmi a umelou inteligenciou. Tejto téme sa venoval aj šéf Microsoftu Satya Nadella. Jeho pravidlá však nie sú priamou analógiou Asimovových zákonov.

Týkajú sa skôr počítačových vedcov, ktorí budujú systémy umelej inteligencie a pracujú so strojovým učením. Skôr než na zastavenie nebezpečného robota sa sústreďujú na potenciálny sociálny dosah umelej inteligencie. Z toho dôvodu sa môžu zdať trochu nudnejšie (a rozhodne menej dramatické) ako Asimovove zákony.

Takéto sú teda Nadellove princípy:

- Umelá inteligencia musí byť navrhnutá tak, aby ľuďom asistovala – stroje, ktoré pracujú spolu s ľuďmi, by mali robiť „nebezpečnú prácu“, no zároveň „rešpektovať autonómiu ľudí“.
- Umelá inteligencia musí byť transparentná. „Chceme nielen inteligentné, ale aj zrozumiteľné stroje,“ hovorí Nadella. „Ľudia by mali chápať, ako táto technológia vidí a analyzuje svet.“
- Umelá inteligencia musí dosiahnuť maximálnu efektivitu bez toho, aby zničila dôstojnosť ľudí. „Potrebujeme širšie, hlbšie a rôznorodejšie zapojenie ľudí do navrhovania týchto systémov. Technologický priemysel by nemal diktovať hodnoty a cnosti budúcnosti.“
- Umelá inteligencia musí rešpektovať súkromie. Nadella žiada „sofistikovanú ochranu, ktorá zabezpečí osobné a skupinové informácie“.
- Umelá inteligencia musí mať algoritmickú zodpovednosť, aby ľudia mohli „napraviť nechcené ujmy“.
- Umelá inteligencia musí chrániť pred predsudkami. Treba zabezpečiť, aby umelá inteligencia nediskriminovala ľudí (tak ako to robia sami ľudia).

Neraz možno počuť o „systémových chybách“.  A vo svete technológií sa skutočne často bojuje o to, aby sa zvážili rôzne názory a veci sa neposudzovali čiernobielo. To platí dvojnásobne pre systémy strojového učenia, ktoré musia rozhodovať v prospech ľudí. Je tu totiž šanca, že neznalosť technikov  či dokonca ich predsudky skončia pevne zabudované do systému.

Okrem týchto cieľov sa Nadella venoval aj ekonomickým aspektom robotiky, teda tomu, čo sa stane, ak roboty budú brať prácu ľuďom. Tu síce nedáva nijakú jasnú odpoveď, ale zdôrazňuje naliehavú potrebu myslieť na to v budúcnosti. Ako dôležité faktory v tomto smere vyzdvihuje empatiu, vzdelanie, kreativitu, súdnosť a zodpovednosť. Skrátka, v honbe za čoraz dokonalejšími autonómnymi strojmi a systémami neslobodno zabúdať na to, že tieto systémy nám majú pomáhať, a nie ubližovať.

Zdroj: theverge.com

Autor: Redakcia

Nechajte si posielať prehľad najdôležitejších správ emailom

Mohlo by Vás zaujímať

Technológie

Philips predstavil novinky v rodine LED televízorov pre rok 2020

24.01.2020 12:40

Philips predstavil koncom januára v Amsterdame kľúčovým partnerom a médiám technológie a nové modely svojich televízorov pre rok 2020. <iframe width="1189" height="669" src="https:/ ...

Technológie

Philips predstavil novú sériu OLED televízorov pre rok 2020

24.01.2020 00:00

Philips predstavil koncom januára v Amsterdame kľúčovým partnerom a médiám technológie a nové modely svojich televízorov pre rok 2020. Nové modely Philips OLED805 / 855 budú dostupné ako 55 ”a 65” mo ...

Technológie

Nový skladací smartfón Samsungu sa zdá oveľa lepší ako Galaxy Fold

23.01.2020 13:52

Nový skladací telefón Samsungu bude predstavený až o pár týždňov, ale už dnes sa zdá, že prinesie zlepšenie v porovnaní s Galaxy Fold. Údajne sa bude nazývať Galaxy Z Flip a bude mať véčkový dizajn. ...

1 Comments

  1. Nadell, Nadell reakcia na: Analógia Asimovových zákonov pre UI. Šéf Microsoftu navrhol širšie princípy vývoja umelej inteligencie
    27.7.2016 11:07
    V druhom bode vlastne povedal, ze nechceme umelu inteligenciu ktora je inteligentnejsia ako my. Cize vlastne chceme len hlupych otrokov ... To ale znamena obrovsku brzdu, kedze inteligentnejsi dokaze najst riesenia problemov na ktore menej inteligentny v zivote nepride ... Je to samozrejme aj nebezpecne, ale v tom je ta vyzva. Povedat ale rovno, ze UI nesmie byt inteligentnejsia ako my ... Hm, Microsoft ako vzdy ...
    Reagovať

Vyhľadávanie

Najnovšie videá