Šéf Komisie pre cenné papiere a burzu USA: AI môže spôsobiť finančný kolaps

Predseda SEC (Securities and exchange commission) Gary Gensler tvrdí, že začlenenie množstva príliš podobných programov hlbokého učenia do našich ekonomických štruktúr by mohlo tieto systémy podkopať až na úroveň finančnej krízy a krachu. V dokumente z roku 2020 (v tom čase ešte ako profesor na MIT) so spoluautorkou a počítačovou vedkyňou z MIT Lily Baileyovou uvádzajú, že „široké prijatie“ umelej inteligencie by mohlo ekonomické systémy posunúť do bodu veľmi krehkej uniformity a vzájomnej prepojenosti, čo by naše finančné systémy vystavilo napríklad katastrofálnemu hromadnému výpredaju vyvolanému strojovými predikciami.

„Existujúce regulačné režimy finančného sektora“, navrhnuté na riadenie dnes už zastaraných fintech a analytických technológií pracujúcich na úrovni rýchlosti človeka, by nedokázali držať krok, čo by viedlo k následným regulačným medzerám. Autori napísali, že keď sa umelá inteligencia „posunie do zrelého štádia širokého prijatia, môže to viesť k nestabilite finančného systému a rizikám pre celú ekonomiku“. Rozsiahly dokument okrem iného varuje pred „stádovitosťou“ údajov čiže pred skutočnosťou, že „modely postavené na rovnakých súboroch údajov budú pravdepodobne vytvárať vysoko korelované predpovede, ktoré budú postupovať zomknuto“.

V podstate ide o to, že ak vycvičíte dva modely na rovnakých údajoch, možno očakávať, že tieto modely vyvodia rovnaké alebo podobné závery. A keby priveľa pokročilých modelov dospelo k rovnakým záverom v rovnakom čase, asi by to nebolo dobré. Varovania uvedené v dokumente sa však týkajú aj predpojatosti strojov a skutočnosti, že systémy umelej inteligencie (aj tie s najlepšími existujúcimi ochrannými prvkami) trpia ľudskými spoločenskými predsudkami.

Keby sa naše finančné systémy prebudovali na prediktívne programy s predsudkami, uvádza sa v úvahe, mohlo by to mať katastrofálne následky pre marginalizované skupiny. Treba dodať, že Gensler, ktorý uvažoval o týchto rozsiahlych vplyvoch umelej inteligencie už v roku 2020, má teraz na starosti najväčší americký finančný regulačný úrad a okrem iného sa venuje aj potenciálnym finančným škodám spôsobeným AI. „Táto technológia bude stredobodom budúcich kríz, budúcich finančných kríz,“ vyjadril sa nedávno Gensler pre New York Times. Nasledovať by teda mali nejaké zmysluplné regulačné opatrenia.

Zdroj: regcompliancewatch.com.