Umelá inteligencia – hra so zápalkami

Prednedávnom som mal s kamarátom vášnivú debatu na tému, či môže umelá inteligencia (UI) prekonať tú ľudskú a či sa môže niekedy vymaniť spod našej kontroly. Kamarát argumentoval tým, že pokiaľ je UI dielom človeka, nemôže ho prekonať, pretože ten do nej vloží iba to, čo sám vie. UI nie schopná samostatne myslieť, cítiť, nepozná etiku, nemá intuíciu, nevie pracovať s neurčitosťou, rizikom atď. Nekontrolované správanie sa UI obmedzuje program napísaný človekom.

Samozrejme, v mnohom sa dá súhlasiť, v niečom zasa nie. UI je naozaj len simulácia spôsobu, ako človek spracováva informácie, vyhodnocuje a následne robí rozhodnutia. V škole sme mali predmet umelá inteligencia, ale v tom čase sa jej schopnosti pohybovali na úrovni rozpoznávania reči, obrazu, riadenia pohybu robotov v priestore atď. V súčasnosti už UI toho dokáže podstatne viac, napr. analýzou štatistických postupností predpovedať budúci vývoj akcií na burze, pribudli schopnosti samoučenia sa, predvídania, kalkulácie rizika, chápania kontextu, dávania si informácií do súvislosti, robenia uzáverov či plánovania stratégie. V mnohých oblastiach prevyšuje UI človeka už teraz. Notoricky známe sú príklady víťazstva systémov UI Deep Blue v šachu a Watson vo vedomostnej súťaži Jeopardy! Teraz však výskumníci naučili počítač hrať už aj poker tak dobre, že je dlhodobo prakticky neporaziteľný. Na rozdiel od šachu je však poker hra s neúplnou informáciou, kde sa blufuje, taktizuje, podvádza, špekuluje, čo si myslia ostatní atď. Hráč nevie, aké karty má súper a aké karty ešte prídu. Musí sa preto pripraviť na rôzne eventuality a rôzne reakcie súpera. Systém UI Cepheus si hraním viac ako trilióna pokerových partií zlepšil stratégiu tak, že aj v situácii, kde nie sú k dispozícii všetky informácie, sa dokáže rozhodovať tak, že nakoniec vyhrá.  

Softvér už nie je len nemenný kus kódu, ktorý robí iba tak, ako ho človek naprogramuje, ale vie sa meniť, prispôsobovať. Svoje o tom vedia tvorcovia antivírusových riešení pri odhaľovaní polymorfných vírusov. Výpočtový model neurónových sietí poskytuje UI schopnosť samoučenia sa a poskytovania približných riešení. Problém je v tom, že kým ľudský mozog sa ako organická štruktúra vyvíja v rámci prirodzenej evolúcie dosť pomaly, výkon UI rastie exponenciálne a ešte sa aj dokáže priebežne optimalizovať. A to je práve problém, na ktorý upozorňujú aj vedci. Vyspelosť UI, ktorá sa bude bez ľudského zásahu dramaticky rýchlo autonómne zlepšovať, môže dosiahnuť takú úroveň, ktorá pre nás bude nepochopiteľná. A tak rýchlo, že ju nebudeme vedieť zastaviť ani zregulovať. Keby sa systémy UI používali iba na vyhrávanie v hazardných hrách či rozpoznávanie objektov na fotkách, nič hrozné sa nedeje. Maximálne by niekto na chvíľu možno zamotal hlavu majiteľom kasín, aj to len dočasne.  

Problém nastane napr. vtedy, keď o jej využitie prejavia záujem jednotlivci či skupiny so zlými úmyslami. Náboženskí fanatici a teroristi, špinavé obchodné a priemyselné korporácie či zideologizované štáty s mocenskými ambíciami by neváhali využiť umelú inteligenciu na zničenie nepriateľa, odstavenie konkurencie či paralyzovanie protivníka. A to bez jediného výstrelu.

Stephen Hawking už dávnejšie varuje pred UI, ktorá by mohla ukončiť existenciu ľudstva tak, ako ju poznáme v dnešnej podobe. On aj ďalší významní vedci, politici a biznismeni už podpísali otvorený list, ktorý má za cieľ upozorniť na toto nebezpečenstvo, a požadujú urýchlené vytvorenie podmienok na ochranu ľudstva. Podľa Elona Muska je súboj medzi strojmi ovládanými UI a ľuďmi v budúcnosti veľmi pravdepodobný a predstavuje to najväčšie existenčné nebezpečenstvo, ktorému v súčasnosti čelíme.

Určite by mala preto existovať rozšírená verzia Asimovových zákonov, známych z robotiky, platná pre systémy UI, ktoré budú obsahovať aj všetky etické normy a princípy humanizmu a tolerancie. Tie by boli napevno napálené v neprepisovateľnej časti pamäte tak, aby za každej situácie bol zabezpečený princíp ochrany ľudstva v jeho zdravej a životaschopnej podobe. Neviem si však predstaviť programovanie morálnych dilem typu obety jednotlivca v prospech väčšiny alebo naopak, čo s preľudnenou planétou v prípade, keď jej už dochádzajú zdroje.

Určite by mala byť pôsobnosť UI regulovaná a kontrolovaná tak, aby sa k nej nemohol dostať hocikto, čo si však neviem dosť dobre prakticky predstaviť. Minimálne by mala byť za každú cenu izolovaná od internetu a od akčných členov, ako je robot, ventil alebo akýkoľvek iný výkonný mechanický systém, ktorý sa dá na diaľku ovládať. V tejto súvislosti sa mi vybavuje sci-fi poviedka, samozrejme, nespomeniem si na názov ani autora (Asimov? Brandbury? Clarke? Doplňte, ak to viete.), ktorá bola presne o momente, keď mali prvýkrát spustiť do prevádzky superinteligentný počítač. Jeho prvá otázka po zapnutí bola, či existuje boh. A po chvíli si na ňu aj sám odpovedal: „Už áno.“ Následne sa objavil záblesk, ktorý zasiahol elektrickú zásuvku, takže už ho nešlo vypnúť. A vzápätí náhle zmĺkli všetky telefonické linky. Ale iba dočasne...

Ešte šťastie, že to bolo iba sci-fi.