Image
4.3.2019 4 Comments

Komentár: Ak sa chceme chrániť pred rizikami pokročilej umelej inteligencie, musíme konať už teraz

Umelá inteligencia môže hrať šach, riadiť auto a diagnostikovať lekárske problémy. Takýto typ umelej inteligencie sa nazýva úzka umelá inteligencia (ANI – Artificial Narrow Intelligence). Ide o systém, ktorý môže vykonávať špecifickú úlohu. Používanie ANI rýchlo rastie a už sa objavili aj prvé problémy. Autonómne vozidlo v marci minulého roka smrteľne zranilo chodca. S ďalšou generáciou AI môžu problémy pribudnúť.

Všeobecná umelá inteligencia (Artificial General Intelligence – AGI) bude mať pokročilé výpočtové schopnosti a inteligenciu na úrovni ľudskej. Dôležité je, že miera zlepšovania môže byť exponenciálna a môže sa stať oveľa pokročilejšou ako jej ľudskí tvorcovia. Zavedenie AGI by mohlo rýchlo viesť k vzniku umelej superinteligencie (Artificial Super Intelligence – ASI).

Plnofunkčné systémy AGI zatiaľ neexistujú, no očakáva sa, že sa môžu objaviť kedykoľvek medzi rokom 2029 a koncom storočia. Je však takmer isté, že napokon prídu. A ak sa tak stane, existuje veľká a prirodzená obava, že ich nebudeme môcť kontrolovať.

Nie je pochýb o tom, že systémy AGI by mohli transformovať ľudstvo. Mohli by sa aplikovať na liečenie chorôb, riešenie zložitých globálnych problémov, ako je zmena klímy a potravinová bezpečnosť, a iniciovanie celosvetového technologického rozmachu. No neschopnosť ovládať ich by mohla mať katastrofické následky.

Napriek tomu, čo nám predkladajú hollywoodske filmy, nie je pravdepodobné, že pôjde o zabijacké roboty. Problém nepredstavuje zlomyseľnosť robotov, ale skôr ich inteligencia. Riziká vyplynú zo skutočnosti, že superinteligentné systémy môžu identifikovať efektívnejšie spôsoby, ako robiť veci, vypracovať si vlastné stratégie na dosiahnutie cieľov a dokonca si určiť vlastné ciele.

Niekoľko príkladov:
- Systém AGI, ktorého úlohou je prevencia HIV, sa rozhodne odstrániť problém tým, že zabije každého, kto je nositeľom tejto choroby, alebo systém, ktorý má úlohu liečiť rakovinu, sa rozhodne zabiť každého, kto má nejakú genetickú predispozíciu.
- Autonómny vojenský dron AGI rozhodne, že jediný spôsob, ako zabezpečiť zničenie nepriateľského cieľa, je zničiť celé spoločenstvo.
- AGI na ochranu životného prostredia rozhodne, že jediný spôsob spomalenia alebo zvrátenia zmeny klímy je odstrániť technológie a ľudí, ktorí ich zavádzajú.

Tieto scenáre evokujú hrozivú predstavu rozličných systémov AGI, ktoré navzájom bojujú, pričom žiadny z nich nepovažuje za svoju prioritu záujmy ľudí. Existujú rôzne dystopické obrazy budúcnosti, podľa ktorých ľudia nakoniec zastarajú a následne ľudská rasa zanikne. Iné hovoria o síce menej extrémnom, ale aj tak významnom probléme zneužitia AGI na teroristické a kybernetické útoky. A napokon je tu ešte hrozba vytláčania ľudí z pracovných pozícií a masového dohľadu.

Preto je veľmi dôležité hľadať najbezpečnejšie spôsoby, ako navrhovať a spravovať systémy AGI s cieľom minimalizovať riziká a maximalizovať prínosy.

Kontrolovať AGI nie je také jednoduché ako udržať pod kontrolou ľudí. Súčasné formy kontroly nestačia. Preto je žiaduce vyvinúť a otestovať tri druhy kontroly:
- Kontrolu, ktorá zabezpečí, aby dizajnéri a vývojári AGI tvorili bezpečné systémy AGI
- Kontrolu, ktorá bude dohliadať na to, aby sa do AGI integrovali záležitosti, ako je „zdravý rozum“, morálka, rozhodovacie pravidlá a pod.
- Kontrolu, ktorú treba pridať do širších systémov, v ktorých bude AGI fungovať (riadenie, štandardné prevádzkové postupy, monitorovacie systémy a infraštruktúra)

Najbližšie desaťročie predstavuje kritické obdobie. Budeme mať príležitosť vytvoriť bezpečné a efektívne systémy AGI, ktoré môžu priniesť ďalekosiahle výhody pre spoločnosť a ľudstvo. No v biznise zvyčajný prístup nasadzovať pokročilé technológie za každú cenu môže viesť k ohrozeniu ľudskej rasy. Lopta je zatiaľ na našej strane ihriska, ale nebude tam už dlho.

Zdroj: theconversation.com.

Zobrazit Galériu
Autor: Redakcia

Nechajte si posielať prehľad najdôležitejších správ emailom

Mohlo by Vás zaujímať

Technológie

Umelá inteligencia „oživila“ Salvadora Dalího

16.05.2019 00:05

Návštevníkov múzea v St. Petersburgu na Floride bude vítať digitálne oživená simulácia Salvadora Dalího. Je vytvorená pomocou strojového učenia a technológií deepfake a naprogramovaná tak, aby komunik ...

Technológie

Prelomový AI generátor textov môžete použiť na písanie príbehov, básní i novinových článkov

15.05.2019 00:15

Systémy s umelou inteligenciou sú čoraz lepšie pri tvorbe písaných textov. Dokazuje to aj nová webová aplikácia na stránke TalkToTransformer.com. Ktokoľvek tu môže zadať textovú výzvu, na ktorú bude s ...

Technológie

Kyberbezpečnosť bez umelej inteligencie nebude mať v budúcnosti šancu

07.05.2019 00:03

Umelá inteligencia a strojové učenie sa dostáva do popredia v mnohých odvetviach, od automobilizmu cez bankovníctvo až po služby. A kyberbezpečnosť nie je výnimkou. Poprední hráči v obore IT bezpečnos ...

q

4 Comments

  1. Nadpis a obsah ... reakcia na: Komentár: Ak sa chceme chrániť pred rizikami pokročilej umelej inteligencie, musíme konať už teraz
    6.3.2019 12:03
    ... sa nejak nestrafili. O konani som sa nedocital nic ....
    Reagovať
  2. no darmo, najlepsie riesenie numusi byt nahumannejsie reakcia na: Komentár: Ak sa chceme chrániť pred rizikami pokročilej umelej inteligencie, musíme konať už teraz
    4.3.2019 08:03
    No darmo, najlepsie riesenie numusi byt to nahumannejsie (prave naopak).
    Ked sa oprostime od emocii a keby sme si predstavili celu zem ako mravciu farmu tak co by ste urobili s takto zle rozbehnutou farmou (kupt novu = kolonizovat nove svety neberiem ako realnu moznost)?
    No ja osobne by som ju rozobral vycistil a vratil naspat tak 1/10 mravcekov aby sa netlacili a mali zase na par generacii blahobyt a miesto na rast.
    Thanos mal pravdu :)
    Reagovať
    • RE: no darmo, najlepsie riesenie numusi byt nahumannejsie reakcia na: no darmo, najlepsie riesenie numusi byt nahumannejsie
      4.3.2019 14:03
      Ci je nejake riesenie videne ako dobre alebo zle je relativne. Zalezi na uhle pohladu. Len malo kedy skonci riesenie ako spravodlive WIN-WIN pre obe strany. Zvacsa jedna strana straca viac ako druha.
      Riesenia prospesne prednostne pre nas ludi zrjme nikdy nemozu byt rovnako prospesne pre ostatne zvierata a rastliny. Vitaz berie.

      Add co by nam asi taka AGI poradila pri konfliktoch roznych nabozenstiev a politik?
      Tipujem ze by odporucila proste vsetky nabozenstva aj politiky zrusit . A riesit spolu problemy vyhradne spolupracov namiesto superenim.
      Reagovať
      • RE: RE: no darmo, najlepsie riesenie numusi byt nahumannejsie reakcia na: RE: no darmo, najlepsie riesenie numusi byt nahumannejsie
        4.3.2019 15:03
        Alebo by hladala prienik filozofii vsetkych nabozenstiev a vytvorila nam jedno nove "univerzalne" ked uz chceme silou mocou v nieco verit :)
        Reagovať

Vyhľadávanie

ITAPA 2019

Najnovšie videá

RECFRUIT 2019


PC forum button