Image
27.6.2019 1 Comments

Doba zabijackých robotov je bližšie, než si myslíte

Útočiaca armáda plánuje dobyť veľké mesto, ale nechce, aby sa jej vojaci zaplietli do pouličných bojov. Vyšle teda tisíce malých dronov s jednoduchým príkazom: Zastreľte každého, kto drží zbraň. O niekoľko hodín môžu vojaci bezpečne vstúpiť do mesta. Znie to ako zo sci-fi filmu, ale takáto technológia je k dispozícii už dnes – a zdá sa, že armády po celom svete majú záujem o jej rozvoj.

Odborníci na strojové učenie a vojenské technológie tvrdia, že by bolo technologicky možné vybudovať roboty, ktoré rozhodnú o tom, na koho zamieriť a koho zabiť, aj bez zapojenia človeka. A keďže algoritmy rozpoznávania tváre a rozhodovania sa stávajú výkonnejšími, bude to čoraz jednoduchšie. Takzvané smrtiace autonómne zbrane by boli väčšinou bezpilotné lietadlá, nie humanoidné roboty, ktoré je stále veľmi ťažké postaviť a rozhýbať. No mohli by byť oveľa menšie ako existujúce vojenské drony a aj oveľa lacnejšie.

Výskumníci v oblasti umelej inteligencie sa teraz snažia, aby sa zabijacké roboty ukázali ako zlý nápad nielen vo filmoch, ale aj v reálnom živote. Umelá inteligencia sa môže použiť na zníženie vedľajších škôd, ale úplne autonómne zbrane by priniesli množstvo nových morálnych, technických a strategických dilem. Preto vedci a aktivisti tlačia na OSN a vlády z celého sveta, aby zvážili ich preventívny zákaz.

Vojenské drony sa už zúčastňujú na bojových operáciách, ale zatiaľ sú to ľudskí operátori, ktorí rozhodujú o tom, kedy budú strieľať. Smrtiace autonómne zbrane (Lethal autonomous weapons – LAWS) ešte neexistujú, ale technológia umožňujúca nahradiť rozhodnutia ľudí o streľbe algoritmami už áno. Je technicky oveľa ľahšie vytvoriť autonómne zbrane ako autonómne vozidlá.

Odborníci si myslia, že by bolo relatívne ľahké zostaviť veľmi účinnú zbraň už za menej ako dva roky. Tá zbraň však nebude vyzerať ako Terminátor. Najjednoduchšia verzia by mohla používať existujúci hardvér pre vojenské drony. No zatiaľ čo dnešné drony prenášajú videosignál späť do vojenskej základne, kde operátor rozhodne, či má dron strieľať na cieľ, pri autonómnej zbrani to neurobí vojak, ale algoritmus.

Algoritmus bude mať zoznam ľudí, na ktorých môže dron zamieriť a strieľať, len ak je veľmi isté (podľa videozáznamu), že identifikoval jeden z týchto cieľov. Alebo sa môže naučiť strieľať na kohokoľvek vo vojnovej zóne, kto drží niečo vizuálne identifikovateľné ako zbraň a nemá na sebe uniformu spojeneckých síl.

V posledných rokoch AI napreduje míľovými krokmi. Rozpoznávanie tvárí sa stáva oveľa presnejším, rovnako aj rozpoznávanie objektov. Obe tieto zručnosti by boli pravdepodobne nevyhnutné pre smrtiace autonómne zbrane. Tie by sa tak mohli stať realitou skôr, než by vznikol akýkoľvek konsenzus o tom, či sú ich vývoj a použitie prijateľné.

Z vojenského hľadiska je najjednoduchší argument za autonómne zbrane ten, že otvárajú svet nových schopností. No ak je každý dron riadený individuálne a človek rozhoduje o tom, kedy a na čo vystrelí, je ich počet na oblohe obmedzený. Okrem toho musia súčasné drony vysielať informácie do základne a prijímať z nej pokyny, čo znamená určité oneskorenie a robí ich to zraniteľnými. Nepriateľ totiž môže blokovať ich komunikačné kanály. Ak dron nepotrebuje človeka, môžete ich vypustiť tisíce či milióny, aj keď nemáte tisíce alebo milióny ľudí, aby sa o ne starali.

Ďalší zaujímavý argument v prospech autonómnych zbraní je ten, že roboty môžu byť viac etické. Ľudia môžu páchať vojnové zločiny, zámerne strieľať na nevinných alebo zastreliť tých, ktorí sa vzdali. Roboty však presne sledujú svoj kód, nerobia chyby pod vplyvom stresu, hnevu či únavy, nechcú sa pomstiť.

Emilia Javorsky, zakladateľka organizácie Vedci proti nehumánnym zbraniam (Scientists Against Inhumane Weapons), hovorí, že „ľudia a stroje robia rôzne chyby, a ak pracujú spoločne, môžete sa vyhnúť obom druhom chýb“. Táto organizácia rovnako ako iní výskumníci, ktorí sa zaoberajú LAWS, nemajú námietky proti autonómnym systémom. Ich argument je taký, že je to záležitosť medzinárodného práva a pri výskume a vývoji takýchto zbraní treba vždy prihliadať na to, aby konečné rozhodnutie urobil človek.

Vedci sa však obávajú, že smerujeme k úplnej autonómii. Úplne autonómne zbrane uľahčia a zlacnia zabíjanie ľudí, čo je vážny problém. Už dnes môžu drony kúpiť alebo zostaviť nadšenci pomerne lacno a ceny sa budú pravdepodobne naďalej znižovať. To umožní vytvoriť lacnú a ľahko šíriteľnú zbraň hromadného ničenia.

Systémy s umelou inteligenciou sa stále zdokonaľujú a je samozrejmé, že armáda chce túto výhodu využiť na bojisku. Mnohí výskumníci sa však domnievajú, že pokročilé systémy umelej inteligencie majú obrovský potenciál na katastrofické zlyhania. Aby sa tomu zabránilo, rozvoj AI musí byť otvorený, kolaboratívny a opatrný. Je tak pravdepodobnejšie, že si všimneme a napravíme vážne problémy s pokročilými návrhmi AI.

Hoci smrtiace autonómne zbrane môžu napáchať veľa škôd, ak sa ocitnú v nesprávnych rukách, situácia s nimi je len jeden z prejavov oveľa širšieho trendu. Umelá inteligencia robí možnými veci, ktoré nikdy predtým neboli možné, a to tak rýchlo, že naše schopnosti neraz predstihujú úvahy a regulačné opatrenia. Keďže sa systémy AI stávajú silnejšími, táto dynamika bude situáciu stále viac destabilizovať.

Či už ide o zabijacké roboty, alebo falošné správy, čoraz častejšie zverujeme kritické aspekty spoločnosti systémom, ktoré sme celkom nepochopili a ktoré môžu byť optimalizované na ciele, ktoré sa nezhodujú s našimi. Pokročilé systémy AI tu zatiaľ nie sú, no každým dňom sú bližšie. Preto je najvyšší čas na vytvorenie zdravej politiky a medzinárodných dohôd skôr, ako sa tieto sci-fi scenáre stanú skutočnosťou.

Zdroj: vox.com.

Zobrazit Galériu
Autor: Redakcia

Nechajte si posielať prehľad najdôležitejších správ emailom

Mohlo by Vás zaujímať

Technológie 2

Viete, kto počúva, keď sa rozprávate s Asistentom Google, Siri alebo Alexou?

16.07.2019 00:15

Google, Amazon aj Apple tvrdia, že ich virtuálni asistenti s umelou inteligenciou nás počúvajú iba preto aby nám uľahčili život. Belgický novinár Tim Verheyden však bol zvedavý, ako to naozaj funguje, ...

Technológie

Lietadlá už budú môcť autonómne pristávať bez pilota aj na malých letiskách

09.07.2019 00:15

Automatické pristávanie je už dlhší čas štandardný  postup pre komerčné lietadlá. Na zaistenie bezpečnej navigácie lietadla je však potrebná infraštruktúra, ktorou sú vybavené veľké letiská, no nedis ...

Technológie

Umelá inteligencia simulovala vesmír. Astrofyzici nevedia, ako to urobila

02.07.2019 00:15

Vedci po prvýkrát použili umelú inteligenciu na vytvorenie komplexných trojrozmerných simulácií vesmíru. Model D3M (Deep Density Displacement Model) s umelou inteligenciou je taký presný a rýchly, že ...

q

1 Comments

  1. Robotická genocída? reakcia na: Doba zabijackých robotov je bližšie, než si myslíte
    27.6.2019 13:06
    Popisovaný scénar nasadenia autonómnych zbraní je už len krôčik od masového vraždenia nepohodlných ľudí(genocídy), ktorí sa nachádzajú v nesprávnom čase na nesprávnom mieste. neviem si predstaviť, ktorý diktátor, alebo "zapálený" vojenský veliteľ odolá myšlienke beztrestného vraždenia ľudí naprogramovanými strojmi, ospravedlňujúc sa, že neomylné stroje nezabíjajú bez príčiny. Neviem si predstaviť ako by odlíšil stroj ozbrojeného nepriateľského vojaka od nepriateľského vojaka, ktorý zbraň skrýva, alebo ktorý sa vydáva za civilistu. Čím účinnejší nástroj na zabíjanie dostane človek k dispozícii, tým väčšie zverstvá napácha, hlavne ak sa pritom nemusí pozerať do tvárí svojich obetí. Aj plynové komory v koncentračných táboroch boli takými nástrojmi...
    Reagovať

Vyhľadávanie

Najnovšie videá