Image
27.7.2017 6 Comments

Vedci prehodnotili Asimovove zákony robotiky. Stačí vraj jediný princíp

Pred 75 rokmi spisovateľ sci-fi literatúry Isaac Asimov formuloval tri pravidlá, ktorými by sa mali riadiť roboty.

  1. Robot nesmie ublížiť človeku alebo svojou nečinnosťou dopustiť, aby sa mu ublížilo.
  2. Robot musí dodržiavať príkazy, ktoré mu boli dané ľuďmi, okrem prípadov, keď by takéto príkazy boli v rozpore s prvým zákonom.
  3. Robot sa musí chrániť pred poškodením, pokiaľ takáto ochrana nie je v rozpore s prvým alebo druhým zákonom.

No teraz správa publikovaná Kráľovskou spoločnosťou a Britskou akadémiou naznačuje, že by nemali existovať tri zákony, ale len jeden zastrešujúci princíp, ktorým by sa mali riadiť inteligentné stroje, s ktorými budeme čoskoro spolunažívať: Ľudstvo musí prekvitať.

V správe sa požaduje vytvorenie nového orgánu, ktorý by zabezpečil, že inteligentné stroje budú ľuďom slúžiť, a nie ich ovládať. Systém demokratického dohľadu je nevyhnutný na reguláciu vývoja samoučiacich sa systémov. Bez toho by mohli spôsobiť veľkú ujmu, tvrdí správa.

Nie je to varovanie pred strojmi zotročujúcimi ľudstvo. No keď sa systémy, ktoré sa učia a rozhodujú nezávisle, používajú v domácnostiach a v množstve komerčných a verejných služieb, existuje tu priestor na nepredvídateľné situácie.

Správa požaduje bezpečnostné opatrenia na uprednostňovanie záujmov ľudí pred strojmi. Rozvoj takýchto systémov sa nemôže riadiť výlučne technickými normami. Musia sa zohľadňovať aj etické a demokratické hodnoty. Vedci navrhujú, aby „správny orgán“ zložený z odborníkov a predstaviteľov zainteresovaných strán vytvoril etický rámec pre vývoj technológií umelej inteligencie.

Potreba nového spôsobu ovládania strojov je naliehavá. Napríklad v súvislosti so samostatne jazdiacimi automobilmi sa vynárajú otázky o priorite bezpečnosti ľudí. Čo sa stane v situácii, keď si stroj musí vybrať medzi bezpečnosťou osôb vo vozidle a chodcami? Ďalej je tu problém určenia zodpovednosti v prípade nehody. Bola by to chyba vlastníka vozidla alebo stroja?

Riešenie týchto otázok by nemalo byť záležitosťou technologických spoločností, ktoré vyvíjajú takéto systémy, je to vec nás všetkých. Práve preto správa tvrdí, že detaily o inteligentných systémoch nemôžu byť predmetom obchodného tajomstva, ale musia byť verejne prístupné.

Zdroj: Bbc

Autor: Redakcia

Nechajte si posielať prehľad najdôležitejších správ emailom

Mohlo by Vás zaujímať

Výskum

Objavili „najčernejší“ materiál. Odráža 10x menej svetla ako Vantablack

17.09.2019 00:20

Inžinieri z MIT informovali, že vytvorili materiál, ktorý je 10-krát černejší ako čokoľvek, čo bolo zhotovené doteraz. Materiál je vyrobený z vertikálne zarovnaných uhlíkových nanorúrok (CNT - carbon ...

Výskum 1

Nositeľné zariadenia budúcnosti budú priehľadné

17.09.2019 00:15

Nositeľné zariadenia dnes umožňujú sledovať okrem kondície aj niektoré vitálne funkcie. Pomáhajú tak predchádzať častým zdravotným problémom, ako je zlyhanie srdca, hypertenzia či komplikácie súvisia ...

Výskum 2

Antisolárny panel získava energiu z chladu nočnej oblohy

16.09.2019 00:15

Prototyp generátora výskumníkov zo Stanfordovej univerzity vyrobil dostatok elektriny na napájanie malého LED svetla využitím teplotného rozdielu medzi Zemou a vesmírom. Väčšia verzia takéhoto zariad ...

q

6 Comments

  1. Slúžiť a nie ovládať ! reakcia na: Vedci prehodnotili Asimovove zákony robotiky. Stačí vraj jediný princíp
    1.8.2017 19:08
    " inteligentné stroje budú ľuďom slúžiť, a nie ich ovládať" - Ja sa vás spýtam: Viete, že politika je platený servis obyvateľstvu? Mali by ľuďom slúžiť a nie ich ovládať !!! Aká je skutočnosť? .................. Aký je nápis na policajných autách? Pomáhať a chrániť. Aká je skutočnosť? (nemám na mysli radových policajtov, ale ich "špičky", koho že to chránia ?)........... atď, atď........ Nebuďme naivní - nechem písať sprostí !
    Čo keď robot hodnoverne vysvetlí, že v záujme "Aby ľudstvo mohlo prekvitať" je potrebné ich trochu preriediť? Akýže to vedci tie Asimovove zákony prehodnotili? Kvôli tomu študovali, aby vyplodili takúto sprostosť? Obávam sa, že aj tí budú podobní, ktorí tých robotov vytvoria. Boh nás ochraňuj !!!
    Reagovať
  2. ludstvo musi prekvitat reakcia na: Vedci prehodnotili Asimovove zákony robotiky. Stačí vraj jediný princíp
    28.7.2017 01:07
    to musel vymysliet nejaky pravnik. bez dalsich 20 stran dovetkov, vyhlasok a inych regulacii ta veta nema ziadny vyznam
    Reagovať
  3. Zastrešujúci princíp reakcia na: Vedci prehodnotili Asimovove zákony robotiky. Stačí vraj jediný princíp
    27.7.2017 12:07
    Zastrešujúci princíp, ktorým by sa mali riadiť inteligentné stroje, s ktorými budeme čoskoro spolunažívať, pozná (že) ním podopierajú preklad "zastrešujúceho princípu preložiteľnosti, virtuous actions consist of abandoning the ten negative actions and, on the other hand, of practicing their opposite", by avoiding killing and harming the others, and by protecting the life of other beings we will gain a long life and a good health, by avoiding stealing and by practicing generosity, by making sacrifices, we will have wealth, no thieves and enemies, and a good physique, by maintaining a pure sexual conduct, we will have a good partner and only a few enemies, by avoiding lying and by talking sincerely and directly, we will be appreciated and respected by everyone, by avoiding slandering and by making peace between the people that hate each other, we will have disciples and respectful employees, by avoiding painful words and by talking calmly, amiably and gently, we will hear nice things, by avoiding talking uselessly and by talking about important things, our words will be listened, by avoiding greed and by cultivating an open and generous mentality, our wishes will come true, by avoiding having bad thoughts and by cultivating love and goodwill, we won’t be afraid and we won’t suffer any harm, by avoiding being involved in wrong beliefs, by cultivating the real point of view and by practicing it, we will have a correct and intelligent vision of reality. Jeden zastrešujúci princíp okolím každého oblúka.
    Reagovať
  4. Moderná captcha reakcia na: Vedci prehodnotili Asimovove zákony robotiky. Stačí vraj jediný princíp
    Autor: Lubo
    27.7.2017 09:07
    Len aby to nedopadlo tak, že napokon budeme pred umelou inteligenciou dokazovať že nie sme roboti tým že budeme musieť porušiť prvý Asimovov zákon, teda pred kamerou ublížime inému človeku alebo svojou nečinnosťou dopustíme, aby sa mu ublížilo
    Reagovať
  5. naozaj ? reakcia na: Vedci prehodnotili Asimovove zákony robotiky. Stačí vraj jediný princíp
    27.7.2017 06:07
    Ľudstvo ako celok musí prekvitať, teda jednotlivec je nepodstatný.
    Reagovať
    • RE: naozaj ? reakcia na: naozaj ?
      27.7.2017 07:07
      Presne idea z filmu Ja robot, ludia su drbnuti a preto jediny sposob ako ich zachranit je ich zbavit slobody. Stroj uvazujuci cisto pragmaticky by nas 80% vykantril a zvyschych 20% by prisli o slobodu aby sa to zase nezvrhlo na povodny model.
      Reagovať

Vyhľadávanie

ACER_092019

Najnovšie videá

SlovakiaTech 2019