Môže umelá inteligencia zvýšiť riziko jadrovej vojny? Štúdia RAND tvrdí, že áno

Technológie
0

Bežná predstava o technologicky vyvolanej apokalypse predpokladá silnú umelú inteligenciu, ktorá úmyselne alebo náhodou zničí ľudskú civilizáciu. Správa americkej neziskovej organizácie RAND Corporation však poukazuje na to, že sa to celé môže udiať aj oveľa rafinovanejšie.  

Spoločnosť RAND Corporation zorganizovala workshop, na ktorom sa zúčastnili experti v oblasti umelej inteligencie, jadrovej bezpečnosti, ako aj zástupcovia vlády a armády. Cieľom bolo vyhodnotiť budúci vplyv AI a pokročilých výpočtových systémov na jadrovú bezpečnosť v priebehu nasledujúcich dvoch desaťročí.  

Súčasná krehká rovnováha ja zaručená pomocou vzájomného jadrového odstrašovania, čo zabraňuje jednej strane použiť svoje jadrové zbrane proti rovnako ozbrojenému protivníkovi. Umelá inteligencia by však v spojení s dohliadacími technológiami, ako sú drony, satelity a rôzne pokročilé senzory, mohla situáciu destabilizovať, čím by sa svet priblížil k jadrovej katastrofe.

Dosiahnuť by to mohla prostredníctvom masového sledovania bezpečnostnej infraštruktúry protivníka, nájdením vzorov neviditeľných pre ľudské oko a odhalením zničujúcich zraniteľností. Pokročilá AI by mohla viesť k novej ére nedôvery, pretekov v jadrovom zbrojení a ku vzniku tzv. preventívnej vojny s cieľom zabrániť nepriateľovi v útoku.

Podobná situácia sa naskytla aj krátko po skončení 2. svetovej vojny, keď niektorí americkí myslitelia a vedci vrátane filozofa Bertranda Russella a matematika Johna von Neumanna vyzvali na preventívny jadrový útok na Sovietsky zväz prv, ako by mohol vyvinúť vlastnú atómovú bombu.

Vývoj narušujúci vojenskú rovnováhu by mohol byť veľmi nebezpečný. Ako uvádzajú autori správy RAND, možno smerujeme do takéhoto obdobia. Umelá inteligencia podľa nich má „potenciál do roku 2040 zhoršiť vznikajúce problémy v jadrovej strategickej stabilite, dokonca aj pri miernom tempe technického pokroku.

Jeden zo spoluautorov správy Edward Geist tvrdí, že autonómne systémy nemusia zabíjať ľudí, aby narušili stabilitu a zvýšili pravdepodobnosť katastrofickej vojny. „Nové schopnosti AI môžu viesť ľudí k myšlienke, že váhaním môžu stratiť,“ povedal Geist. „A možno by ich potom začal svrbieť prst na spúšti. Umelá inteligencia by tak mohla urobiť jadrovú vojnu viac pravdepodobnou, aj keby ju ľudia mali stále pod kontrolou.

Umelá inteligencia je teda dvojsečná zbraň, môže zlepšiť obranu aj útok, zlepšiť rozhodovanie veliteľov. Ale takéto systémy sa dajú aj nabúrať či zneužiť. Keby totiž umelá inteligencia dostala podvrhnuté dáta, bol by to veľký problém.

Zdroj: gizmodo.com

Zobrazit Galériu

redakcia

Všetky autorove články
umelá inteligencia AI buducnost bezpečnosť ochrana dáta

Pridať komentár

Mohlo by vás zaujímať

Mohlo by vás zaujímať