Image
2.4.2019 0 Comments

AI bias: Nebezpečný problém vnútornej predpojatosti systémov umelej inteligencie

Od systémov umelej inteligencie prirodzene očakávame, že prinesú výrazné zlepšenia v mnohých oblastiach. Umožnia napríklad vznik takmer bezchybných vodičov áut, diagnostiku chorôb vo veľmi skorom štúdiu či dobrú analýzu veľkého množstva dát. Nech sú však tieto systémy akékoľvek pokročilé a účinné, nájdeme v nich aj jedno obrovské nebezpečenstvo – skrytý bias.  To, že žiadny človek nie je celkom nestranný, nie je žiadne tajomstvo. Každý má svoje preferencie, predsudky a takisto nejaký stupeň vnútornej vedomej alebo celkom nevedomej rasovej či inej zaujatosti. Túto problematiku veľmi dobre zhŕňa cudzojazyčný výraz bias, označujúci skreslenie výsledkov alebo názorov na základe predpojatosti či predsudkov, čo v konečnom dôsledku prinesie neférové konanie smerom ku konkrétnym jednotlivcom či skupinám. Bias je celkom prirodzený dôsledok ľudskosti a nemožno ho celkom zlikvidovať. Musíme s ním len bojovať – či už osvetou, alebo budovaním spoločenských systémov, ktoré tieto naše negatívne vlastnosti prirodzene potlačujú. Podobne ako možno budovať cesty a križovatky, ktoré sú menej náchylné na nehody ako iné, dajú sa budovať aj rôzne spoločenské zriadenia a systémy, ktoré čo najviac potlačujú náchylnosť na ľudský bias (typický príklad je anonymizácia testov). V tomto smere sa často upiera nádej na systémy umelej inteligencie, ktoré sa používajú na posudzovanie rôznych udalostí a takisto na predpovedanie budúceho stavu na základe ­algoritmov a štatistickej analýzy veľkého objemu dát. Aktuálne úspechy týchto systémov, ktoré sú založené hlavne na hlbokých neurónových sieťach, umožnili, aby boli ­nasadzované vo veľkom, pričom je zvyčajné, že im bežní po­užívatelia prisudzujú prirodzenú nestrannosť a nezaujatosť (na základe ich    strojovosti). A to je vážny problém, pretože tento predpoklad býva neoprávnený. To, že systémy umelej inteligencie vykazujú výborné výsledky, ešte neznamená, že sú perfektné a neobsahujú vnútorné chyby. Obrovské množstvo systémov môže vniesť (a často a ...

Článok je uzamknutý

Pokračovanie článku patrí k prémiovému obsahu pre predplatiteľov. S digitálnym predplatným už od 10 € získate neobmedzený prístup k uzamknutému obsahu na celý rok. Objednať si ho môžete TU. Ak ho už máte prihláste sa TU


Prihlásiť pomocou členstva PC REVUE

Nechajte si posielať prehľad najdôležitejších správ emailom

Mohlo by Vás zaujímať

Magazín

Quo vadis, Facebook?

16.10.2019 13:54

Facebook je s počtom 2,14 miliardy aktívnych používateľov v súčasnosti najväčšia sociálna sieť na svete. To však neznamená, že sa nemusí vyvíjať či súperiť s konkurenciou. Kto ešte nemá vlastnú krypt ...

Magazín

Bude mať UI raz aj vedomie? Juraj Jánošík, ESET

15.10.2019 11:50

Umelá inteligencia je téma, ktorá v posledných rokoch výrazne nabrala na popularite. Svedčí o tom množstvo technológií odkazujúcich na umelú inteligenciu. Čoraz častejšie sa hovorí o autonómnych autác ...

Magazín

Príbeh SpaceX

15.10.2019 11:31

História spoločnosti s úplným názvom Space Exploration Technologies Corporation, ktorá podniká v aerokozmickom priemysle, sa začala písať v roku 2002. Založil ju Elon Musk, ktorý sa predajom svojho po ...

Vyhľadávanie

MANDAYIT 2019

Najnovšie videá

SlovakiaTech 2019