Image
27.11.2018 6 Comments

Projekt Moral Machine: Má autonómne auto chrániť život cestujúcich, chodcov na priechode či zvieraťa?

V roku 2014 výskumníci v laboratóriu MIT Media Lab navrhli experiment s názvom Moral Machine. Cieľom bolo vytvoriť platformu podobnú hre, ktorá mala zhromažďovať rozhodnutia ľudí o tom, ako by autonómne vozidlo malo chrániť či obetovať životy v rôznych situáciách. Získané údaje by mali poskytnúť prehľad o kolektívnych etických prioritách v rozdielnych kultúrach.

Počas štyroch rokov milióny ľudí z 233 krajín zaznamenali 40 miliónov rozhodnutí, čím sa projekt stal jednou z najväčších štúdií zameraných na globálne morálne preferencie. Nový dokument uverejnený v časopise Nature prezentuje analýzu týchto údajov a odhaľuje, ako sa etika odlišuje v závislosti od kultúry, ekonomiky a zemepisnej polohy.

Ide o klasický problém „električkovej dilemy“. Po ulici sa nekontrolovane rúti električka, ktorá už-už zrazí a usmrtí 5 ľudí. Vy máte prístup k páke, ktorá presmeruje električku na inú koľaj, no tam by predčasne ukončila život iného človeka. Čo urobíte? Potiahnete páčku a obetujete jeden život namiesto piatich?

Moral Machine využil túto myšlienku na testovanie deviatich rôznych situácií, v ktorých by malo autonómne auto rozhodnúť o uprednostnení ľudí pred zvieratami, pasažierov pred chodcami, viac životov pred jedným, ženy pred mužmi, mladých ľudí pred starými, vyššie postavené osoby pred bežnými ľuďmi. A napokon: malo by auto odbočiť (konať) alebo nezmeniť smer (zostať nečinné)? Nešlo však len o jednoduché rozhodnutie typu jedna k jednej. Experiment postavil účastníkov pred rôzne kombinácie, napríklad či má autonómne vozidlo pokračovať rovno a zabiť troch starších chodcov, alebo si to namieriť do múra a usmrtiť troch mladých cestujúcich.

Výskumníci zistili, že preferencie sa značne líšia v závislosti od krajiny, ale takisto korelujú s kultúrou a ekonomikou. Napríklad je menej pravdepodobné, že účastníci z viac kolektivistickej kultúry (Čína, Japonsko) ušetria mladých na úkor starých. Výskumníci to pripísali väčšiemu dôrazu danej kultúry na úctu k starším ľuďom. Respondenti z krajín s viac individualistickou kultúrou uprednostnili skôr mladých pred starými.

Podobne účastníci z chudobnejších krajín boli zhovievavejší k chodcom, ktorí prechádzali cez cestu porušujúc predpisy, oproti tým, ktorí prechádzali správne. A účastníci z krajín s vysokou mierou ekonomickej nerovnosti vykazovali väčšie rozdiely v zaobchádzaní s jednotlivcami s vysokým a nízkym sociálnym postavením.

Výsledky takisto ukázali, že účastníci z individualistických kultúr (Spojené kráľovstvo, USA) kladú silnejší dôraz na ušetrenie väčšieho počtu životov oproti všetkým ostatným rozhodnutiam – podľa názoru autorov je to možno pre väčší dôraz na hodnotu každého jednotlivca v ich spoločnosti.

Krajiny nachádzajúce sa blízko seba vykazovali bližšie morálne preferencie, pričom tvorili tri dominantné zoskupenia: západ, východ, juh. Výskumníci uznávajú, že výsledky môžu byť skreslené tým, že účastníci neboli vybraní, ale sa zapojili spontánne, a keďže museli mať pripojenie na internet, mali zrejme vyššiu sociálnu pozíciu a technickú úroveň.

Štúdia môže mať zaujímavé dôsledky pre krajiny, kde sa v súčasnosti testujú autonómne autá, pretože tieto preferencie by mohli zohrávať úlohu pri formulovaní návrhov na reguláciu takýchto vozidiel. Výskumníci však dúfajú, že výsledky pomôžu technológom pri uvažovaní o etike umelej inteligencie aj mimo rámca autonómnych vozidiel.

Zdroj: technologyreview.com.

Zobrazit Galériu
Autor: Redakcia

Nechajte si posielať prehľad najdôležitejších správ emailom

Mohlo by Vás zaujímať

Technológie

V nemocnici začali chýbať zdravotné sestričky. Vedenie kúpilo robota a všetci boli spokojní

17.07.2019 00:10

Dopyt po zdravotných sestrách v nemocniciach je veľmi vysoký a neustále rastie. Ich súčasný nedostatok si vynútil nezvyčajné riešenie. V niekoľkých nemocniciach v Texase sa začal používať robot menom ...

Technológie 2

Viete, kto počúva, keď sa rozprávate s Asistentom Google, Siri alebo Alexou?

16.07.2019 00:15

Google, Amazon aj Apple tvrdia, že ich virtuálni asistenti s umelou inteligenciou nás počúvajú iba preto aby nám uľahčili život. Belgický novinár Tim Verheyden však bol zvedavý, ako to naozaj funguje, ...

Technológie

Lietadlá už budú môcť autonómne pristávať bez pilota aj na malých letiskách

09.07.2019 00:15

Automatické pristávanie je už dlhší čas štandardný  postup pre komerčné lietadlá. Na zaistenie bezpečnej navigácie lietadla je však potrebná infraštruktúra, ktorou sú vybavené veľké letiská, no nedis ...

q

6 Comments

  1. A to ti ludia reakcia na: Projekt Moral Machine: Má autonómne auto chrániť život cestujúcich, chodcov na priechode či zvieraťa?
    5.12.2018 22:12
    Sa rozhovali doma za pocitacom alebo sa skumalo koho pozabijali v koliznych situaciach?
    Reagovať
  2. rozdiel reakcia na: Projekt Moral Machine: Má autonómne auto chrániť život cestujúcich, chodcov na priechode či zvieraťa?
    27.11.2018 09:11
    zakladny rozdiel je v tom, ze v realnom zivote je kazdy zodpovedny sam za seba a jeho vlastna sikovnost ovplyvnuje zivot / smrt. v tomto pripade presuvame zodpovednost na stroj a clovek sediaci vo vozidle dava suhlas danemu softwaru ze moj zivot je v tvojich rukach. horsie je, ze tuto zodpovednost presunul vodic vozidla a nie chodec na ulici z coho vyplyva, ze prednost ma chodec a ktokolvek iny mimo daneho vozidla.

    jedinu dolezitu otazku vidim v situacii dvoch autonomnych vozidiel oproti sebe. tam by to malo byt vysledkom algoritmov a priorit. tu ale musia tie vozidla medzi sebou datovo komunikovat aby sa dalo robit rozhodovanie, co neviem ci v zlomku sekundy je v sucasnosti realne. kym sa nadviaze spojenie alebo prenos dat tak dojde k zrazke
    Reagovať
    • RE: rozdiel reakcia na: rozdiel
      27.11.2018 12:11
      Zase pozor, to ze si kupis automonme auto nemoze predsa znamenat ze si prvy na rane cokolvek sa zomelie. V situacii kedy by si pri rucnom riadeni sundal cyklistu lebo ti podbehol by ta akoze auto malo poslat s celou rodinou do protismeru pod tatrovku?
      Reagovať
  3. Odpoveď je... reakcia na: Projekt Moral Machine: Má autonómne auto chrániť život cestujúcich, chodcov na priechode či zvieraťa?
    27.11.2018 08:11
    nikoho. Ako to dosiahnuť? Odstránením kolíznych situácií. Ako dosiahnuť to? Zmenou dopravných zákonov. Ak sa potom stane nehoda tak jednoznačne vinou toho, kto porušil zákon a môže si za to sám. Keď začali po uliciach premávať prvé autá tak pred nimi musel bežať chlapec s červenou zástavkou aby upozornil chodcov na hroziace nebezpečenstvo. Vtedy ešte dopravné zákony neexistovali a až sa nazhromaždil na uliciach dostatočný počet áut tak sa definovali prvé dopravné pravidlá. A to bude treba urobiť aj teraz keď sa na ulice dostanú autonómne autá, iná cesta nie je.
    Reagovať
  4. ubohé reakcia na: Projekt Moral Machine: Má autonómne auto chrániť život cestujúcich, chodcov na priechode či zvieraťa?
    27.11.2018 06:11
    príde mi to ako otázka typu "Akú farbu má rýchlosť ?" Otázka je gramaticky správna, v prenesenom význame by sa na ňu dalo aj odpovedať, ale z pohľadu fyziky, kde je rýchlosť jednoznačne definovaná len ako dráha za jednotku času a farba tam vôbec nevystupuje je odpoveď : "Rýchlosť je od farby nezávislá". Toto je podobné. Niekto sa pýta "Koho má auto zabiť ?" odpoveď je "Daj si facku". Jednoducho ak to nemajú poriadne otestované nech to nepúšťajú medzi ľudí vôbec. Príde mi to ako nezodpovedné tlačenie na pílu pretože, do toho už x - spoločností vrazilo veľa peňazí na výskum a už by to zrejme chceli aj späť. U procesorov sa tiež napríklad požaduje spoľahlivosť na 99.99% a nie len 99%.
    Toto je čistý morálny fail.
    Reagovať
    • RE: ubohé reakcia na: ubohé
      12.12.2018 10:12
      Možná som ťa zle pochopil. Ale táto dilema je teoretická, lebo v prvom rade je auto nastavene zrážke zabrániť. Až keď všetko zlyhalo. A stále sú nejaké životy ohrozené tak vtedy táto dilema nastane. A až vtedy tieto pravidlá budú uplatnené.
      Reagovať

Vyhľadávanie

Najnovšie videá