Image
13.9.2019 0 Comments

Závažné rozhodnutia AI by mali byť preverované. Buducnosť patrí auditovateľnej AI

Systémy s umelou inteligenciou dnes rozhodujú o pôžičkách, lekárskych diagnózach či prepustení na kauciu. No sú to nepriehľadné systémy, navyše náchylné na zaujatosť. Z technických aj obchodných dôvodov nemožno automaticky generovať vysvetlenia väčšiny rozhodnutí umelej inteligencie. Preto by sme sa mali usilovať o externý audit systémov AI zodpovedných za rozhodovacie procesy v závažných veciach. Automatizovaný audit môže permanentne testovať systémy AI a odhaľovať predsudky alebo iné nežiaduce správanie.

Analýza jedného z najpoužívanejších algoritmov na rozhodovanie o prepustení z väzby ProPublica odhalila potenciálne významné skreslenie a nepresnosť. Tvorca však nebol ochotný zverejniť špecifiká svojho proprietárneho algoritmu. Zaujatosť AI bola objavená aj v mnohých ďalších kontextoch, napríklad v systémoch rozpoznávania tváre, ktoré sú menej presné pri identifikácii ľudí tmavej pleti, či v náborových nástrojoch s AI, ktoré diskriminujú ženy.

Regulačné úrady sa preto snažia o transparentnosť prostredníctvom tzv. vysvetliteľnej AI. Napríklad pri odmietnutí žiadosti jednotlivca o pôžičku treba uviesť „osobitné dôvody“ vedúce k nepriaznivému rozhodnutiu. V Európskej únii si GDPR stanovuje „právo na vysvetlenie“ pri všetkých automatizovaných rozhodnutiach o závažných veciach.

Takéto vysvetľovanie však naráža na problémy. Môžu sa pri ňom totiž odhaliť majetkové údaje a obchodné tajomstvá. Navyše je nesmierne ťažké vysvetliť správanie komplexných, nelineárnych modelov neurónovej siete, vyškolených na obrovských množinách údajov. Preto sa zvyčajne stretávame s kompromismi a zjednodušovaním. No v situáciách, keď je v stávke veľa (napr. pri lekárskych diagnózach), môže byť takéto zjednodušenie nebezpečné.

Zvýšenú transparentnosť by mohli priniesť auditovateľné systémy AI. Pri skúmaní sa dajú použiť hypotetické prípady, či už umelé, alebo reálne. Je to jednoduchý spôsob, ako odhaliť zaujatosť AI. Napríklad čo sa stane, ak zmeníme pohlavie obžalovaného? Čo sa stane, ak žiadateľ o pôžičku býva v chudobnej štvrti, kde žijú menšiny?

Auditovateľná AI má niekoľko výhod oproti vysvetľujúcej AI. Neutrálna tretia strana, ktorá skúma tieto otázky, je oveľa lepšia kontrola ako vysvetľovanie riadené tvorcom algoritmu. Navyše výrobcovia softvéru nemusia zverejňovať obchodné tajomstvá svojich vlastných systémov a súborov údajov.

Prvé príklady auditovateľných AI už ukázali svoj pozitívny vplyv. Existuje stále viac dôkazov, že takéto audity môžu zlepšiť presnosť modelu pre nedostatočne zastúpené skupiny. Napríklad auditovateľné algoritmy na rozpoznávanie tváre spoločnosti Amazon takmer dvakrát presnejšie identifikovali ľudí s farebnou pleťou.

V budúcnosti by mohol vzniknúť robustný ekosystém auditných systémov, ktoré by umožnili preskúmať rozhodovanie AI. Regulačné úrady by dokonca mohli trvať na tom, aby systémy AI používané pri závažných rozhodnutiach poskytovali audítorské rozhrania.

Zdroj: https://www.wired.com/story/ai-needs-to-be-audited/?verso=true

Zobrazit Galériu
Autor: Redakcia

Nechajte si posielať prehľad najdôležitejších správ emailom

Mohlo by Vás zaujímať

Technológie

Dron JetQuad dokáže lietať rýchlosťou až 483 km/h. Tankuje sa mu nafta

04.12.2019 00:05

Spoločnosť FusionFlight so sídlom v texaskom Dallase predstavila dron AB5 JetQuad, čo je podľa jej vyjadrenia „najmenší a najvýkonnejší dron s prúdovým pohonom na svete s možnosťou vertikálneho vzletu ...

Technológie 3

TESLA spustila už tretí Supercharger na Slovensku

04.12.2019 00:18

Od 29.11 majú majitelia vozidiel TESLA na Slovensku k dispozícii už tretí Supercharger. Po Sliači a Bratislave bola na rade Demänová ktorá je vstupnou bránou do Nízkych Tatier. <iframe width=" ...

Technológie

Renault ZOE prichádza už v 3. generácii

03.12.2019 00:33

Renault uvádza na Slovenský trh horúcu novinku, 3.generáciu svojho veľmi úspešného modelu ZOE. V súčasnosti ide v rámci Európy o najpredávanejší elektromobil o čom svedčí viac už 200 000 predaných kus ...

Vyhľadávanie

ACER_122019

Najnovšie videá