Image
2.4.2019 0 Comments

AI bias: Nebezpečný problém vnútornej predpojatosti systémov umelej inteligencie

Od systémov umelej inteligencie prirodzene očakávame, že prinesú výrazné zlepšenia v mnohých oblastiach. Umožnia napríklad vznik takmer bezchybných vodičov áut, diagnostiku chorôb vo veľmi skorom štúdiu či dobrú analýzu veľkého množstva dát. Nech sú však tieto systémy akékoľvek pokročilé a účinné, nájdeme v nich aj jedno obrovské nebezpečenstvo – skrytý bias.  To, že žiadny človek nie je celkom nestranný, nie je žiadne tajomstvo. Každý má svoje preferencie, predsudky a takisto nejaký stupeň vnútornej vedomej alebo celkom nevedomej rasovej či inej zaujatosti. Túto problematiku veľmi dobre zhŕňa cudzojazyčný výraz bias, označujúci skreslenie výsledkov alebo názorov na základe predpojatosti či predsudkov, čo v konečnom dôsledku prinesie neférové konanie smerom ku konkrétnym jednotlivcom či skupinám. Bias je celkom prirodzený dôsledok ľudskosti a nemožno ho celkom zlikvidovať. Musíme s ním len bojovať – či už osvetou, alebo budovaním spoločenských systémov, ktoré tieto naše negatívne vlastnosti prirodzene potlačujú. Podobne ako možno budovať cesty a križovatky, ktoré sú menej náchylné na nehody ako iné, dajú sa budovať aj rôzne spoločenské zriadenia a systémy, ktoré čo najviac potlačujú náchylnosť na ľudský bias (typický príklad je anonymizácia testov). V tomto smere sa často upiera nádej na systémy umelej inteligencie, ktoré sa používajú na posudzovanie rôznych udalostí a takisto na predpovedanie budúceho stavu na základe ­algoritmov a štatistickej analýzy veľkého objemu dát. Aktuálne úspechy týchto systémov, ktoré sú založené hlavne na hlbokých neurónových sieťach, umožnili, aby boli ­nasadzované vo veľkom, pričom je zvyčajné, že im bežní po­užívatelia prisudzujú prirodzenú nestrannosť a nezaujatosť (na základe ich    strojovosti). A to je vážny problém, pretože tento predpoklad býva neoprávnený. To, že systémy umelej inteligencie vykazujú výborné výsledky, ešte neznamená, že sú perfektné a neobsahujú vnútorné chyby. Obrovské množstvo systémov môže vniesť (a často a ...



Pokračovanie článku patrí k prémiovému obsahu pre predplatiteľov. S digitálnym predplatným už od 10 € získate neobmedzený prístup k uzamknutému obsahu na celý rok. Objednať si ho môžete TU. Ak ho už máte prihláste sa TU


Prihlásiť pomocou členstva PC REVUE

Nechajte si posielať prehľad najdôležitejších správ emailom

Magazín

ŠKODA SCALA Style: 1,5 TSI 110 kW 7AP Priestor aj výkon pre rodinu

18.09.2019 13:38

Škoda Scala prichádza ako nástupca modelu Rapid. Využíva koncernovú platformu MQB A0, teda rovnakú, na ktorej je postavený napríklad VW Polo. Scala však má väčšiu dĺžku a predĺžený rázvor, a tak vnúto ...

Magazín

Range Rover Evoque 2020 First Edition: Futuristický interiér aj množstvo technológií

18.09.2019 11:30

Nový Range Rover Evoque je pokračovaním veľmi úspešného modelu, ktorý prišiel na trh už v roku 2011. Ako dosvedčuje aj 217 ocenení a viac ako 750 000 celosvetovo predaných kusov, originálny štýl Julia ...

Magazín

Balkánsky trip

02.09.2019 12:57

Balkán má stále nádych nespútanej divočiny s rúškom neznáma. Asi aj preto sme sa ho rozhodli tento rok prejsť krížom na motorkách. Dobrá partia piatich ostrieľaných motorkárov na cestných endurách a h ...

AMCHAM 2019

Videá

SlovakiaTech 2019

IT GALA stvorec 2019