Image
9.7.2018 0 Comments

Umelá inteligencia nemusí byť vždy spravodlivá - ako to ale spoznať?

Nástroj, ktorý ľuďom pomôže identifikovať a prípadne napraviť neférové skreslenie algoritmov umelej inteligencie, vyvinula firma Accenture. Cieľom je zachytiť diskrimináciu skôr, než začne infikovať modely AI a spôsobovať škodu.

AI airness je súčasťou širšieho balíka, ktorý firma nedávno ponúkla ako podporu transparentnosti a etiky pri zavádzaní strojového učenia. Počítačové algoritmy sa dostávajú do úlohy, kedy v prvom site rozhodujú o rade záležitostí - robia akýsi predvýber, ktorý predkladajú na doriešenie "ľudským" kolegom.

A tak umelá inteligencia môže rozhodovať o tom, či určitý človek dostane pôžičku, ponuku zamestnania, prípadne povolenie k určitej činnosti. Accenture sa preto v rámci aktivít zameraných na odstránenie zaujatosti k AI rozhodla vytvoriť nástroj, ktorý vyhodnocuje, či systémy AI rozhodujú spravodlivo a objektívne.

Umelá inteligencia sama o sebe nemôže byť spravodlivá alebo nespravodlivá - ide o to, že algoritmy, ktoré pre rozhodovanie využíva, môžu kodifikovať nesprávne ľudské chápanie. AI Fairness je určený na rýchlu identifikáciu a následnej pomoci pri riešení problémov v algoritmoch.

"Našim cieľom je sprístupniť tento nástroj spoločnostiam, ktoré chcú rozšíriť svoje používanie AI, ale obávajú sa rizík neúmyselných dopadov," hovorí Rumman Chowdhury, líder v oblasti umelej inteligencie spoločnosti Accenture. "V minulosti sme našli modely, ktoré sú celkovo veľmi presné, ale ak sa pozriete, ako sa určitá chyba rozkladá nad podskupinami, uvidíte obrovský rozdiel medzi tým, ako správny je určitý model napríklad pre bieleho muža v porovnaní s čiernou ženou."

Nástroj tiež hľadá premenné, ktoré súvisia s ďalšími citlivými premennými. Algoritmus by napríklad nemusel explicitne zohľadňovať pohlavie, ale ak sa pozrie na príjem, mohol by ľahko oddeliť výsledky pre ženy a mužov.

Vyšetruje tiež chybovosť pre každú premennú, a či sú chyby pri niektorej skupine vyššie. Po tejto analýze je nástroj schopný opraviť algoritmus, ale pretože tento typ korekcie môže spôsobiť zníženie jeho presnosti, navrhne riešenie a umožní užívateľovi rozhodnúť, nakoľko sa má zmeniť.

AI Fairness môže nájsť uplatnenie v rôznych, nielen priemyselných odvetviach, pričom sa predpokladá, že prvými používateľmi budú tí, ktorí sa nachádzajú v najviac regulovaných odboroch (napríklad finančných služieb a zdravotnej starostlivosti), kde je potenciál nežiaducich dopadov AI veľký.

"Vidíme rastúce zameranie na algoritmické skreslenie a spravodlivosť. Rad štátov vytvára etické rady AI, Google nedávno vydal svoje etické pokyny," konštatuje Chowdhury. "Takže si myslím, že lídri v odbore AI, rovnako ako non-tech spoločností, hľadajú cestu. Hľadajú štandardy a protokoly a niečo, čím sa môžu riadiť, pretože chcú vytvárať a využívať bezpečné produkty."

Zdroj: computerworld.cz.

Zobrazit Galériu
Autor: Redakcia

Nechajte si posielať prehľad najdôležitejších správ emailom

Mohlo by Vás zaujímať

Technológie

Smartfóny Pixel 3 dostanú funkciu prepisu hovorov. Pomôže to odfiltrovať „agentov s teplou vodou“...

07.12.2018 00:15

Funkcia Call screen je jeden z najpôsobivejších prínosov smartfónov Pixel 3. Umožňuje totiž odfiltrovať spamové hovory. A zavedením novej vlastnosti sa ešte zlepší. Call Screen používa Asistenta Goog ...

Technológie

Tachyum: Vývoj čipu pre umelú inteligenciu sa posúva do fázy prípravy výroby, možno to bude práve na Slovensku

06.12.2018 00:20

Spoločnosť Tachyum s dcérskymi spoločnosťami v americkom San Jose a v Bratislave, ktorú založil úspešný hardvérový architekt a vynálezca Radoslav Danilák, nedávno dosiahla zásadný míľnik vo vývoji pre ...

Technológie 1

Blíži sa koniec SIM. Orange predstavil eSIM zabudované priamo do hodiniek

05.12.2018 11:16

Možno si ešte pamätáte prvé SIM karty veľkosti kreditky. Postupne sa SIM karta zmenšovala a v súčasnosti aj najmenšia verzia nanoSIM je pre niektoré mobilné zariadenia, napríklad inteligentné hodinky ...

q

Žiadne komentáre

Vyhľadávanie

OKI_122018

Najnovšie videá



PC forum button