Image
2.4.2019 0 Comments

AI bias: Nebezpečný problém vnútornej predpojatosti systémov umelej inteligencie

Od systémov umelej inteligencie prirodzene očakávame, že prinesú výrazné zlepšenia v mnohých oblastiach. Umožnia napríklad vznik takmer bezchybných vodičov áut, diagnostiku chorôb vo veľmi skorom štúdiu či dobrú analýzu veľkého množstva dát. Nech sú však tieto systémy akékoľvek pokročilé a účinné, nájdeme v nich aj jedno obrovské nebezpečenstvo – skrytý bias.  To, že žiadny človek nie je celkom nestranný, nie je žiadne tajomstvo. Každý má svoje preferencie, predsudky a takisto nejaký stupeň vnútornej vedomej alebo celkom nevedomej rasovej či inej zaujatosti. Túto problematiku veľmi dobre zhŕňa cudzojazyčný výraz bias, označujúci skreslenie výsledkov alebo názorov na základe predpojatosti či predsudkov, čo v konečnom dôsledku prinesie neférové konanie smerom ku konkrétnym jednotlivcom či skupinám. Bias je celkom prirodzený dôsledok ľudskosti a nemožno ho celkom zlikvidovať. Musíme s ním len bojovať – či už osvetou, alebo budovaním spoločenských systémov, ktoré tieto naše negatívne vlastnosti prirodzene potlačujú. Podobne ako možno budovať cesty a križovatky, ktoré sú menej náchylné na nehody ako iné, dajú sa budovať aj rôzne spoločenské zriadenia a systémy, ktoré čo najviac potlačujú náchylnosť na ľudský bias (typický príklad je anonymizácia testov). V tomto smere sa často upiera nádej na systémy umelej inteligencie, ktoré sa používajú na posudzovanie rôznych udalostí a takisto na predpovedanie budúceho stavu na základe ­algoritmov a štatistickej analýzy veľkého objemu dát. Aktuálne úspechy týchto systémov, ktoré sú založené hlavne na hlbokých neurónových sieťach, umožnili, aby boli ­nasadzované vo veľkom, pričom je zvyčajné, že im bežní po­užívatelia prisudzujú prirodzenú nestrannosť a nezaujatosť (na základe ich    strojovosti). A to je vážny problém, pretože tento predpoklad býva neoprávnený. To, že systémy umelej inteligencie vykazujú výborné výsledky, ešte neznamená, že sú perfektné a neobsahujú vnútorné chyby. Obrovské množstvo systémov môže vniesť (a často a ...



Pokračovanie článku patrí k prémiovému obsahu pre predplatiteľov. S digitálnym predplatným už od 10 € získate neobmedzený prístup k uzamknutému obsahu na celý rok. Objednať si ho môžete TU. Ak ho už máte prihláste sa TU


Prihlásiť pomocou členstva PC REVUE

Nechajte si posielať prehľad najdôležitejších správ emailom

Magazín

HONDA CR-V 2.0 i-MMD Hybrid, 2WD, Lifestyle / Inovatívne hybridné SUV

06.06.2019 13:09

Honda si svojím SUV CR-V získava zákazníkov už od roku 1995, najnovšia generácia však ako prvá prichádza aj s hybridným pohonom. Hybrid dnes už nájdete v ponuke viacerých automobiliek, no Honda prichá ...

Magazín

Elektromobilita alebo vodík? V ťažkej doprave

06.06.2019 11:38

Rovnako ako pri individuálnej doprave osôb existuje v Európe regulačný tlak aj na znižovanie emisií vo verejnej doprave. Európska únia si do nasledujúcich rokov stanovila ciele, ktoré do roku 2050 pre ...

Magazín

Výrazne účinnejší slovenský kolektor

06.06.2019 11:33

 V rámci nepretržitého hľadania efektívnejších obnoviteľných zdrojov prebieha aj vývoj v oblasti slnečných kolektorov. Slnečné kolektory predstavujú perspektívny spôsob využitia slnečnej energie, mome ...

SWAN_062019

Videá



PC forum button