Image
27.11.2018 6 Comments

Projekt Moral Machine: Má autonómne auto chrániť život cestujúcich, chodcov na priechode či zvieraťa?

V roku 2014 výskumníci v laboratóriu MIT Media Lab navrhli experiment s názvom Moral Machine. Cieľom bolo vytvoriť platformu podobnú hre, ktorá mala zhromažďovať rozhodnutia ľudí o tom, ako by autonómne vozidlo malo chrániť či obetovať životy v rôznych situáciách. Získané údaje by mali poskytnúť prehľad o kolektívnych etických prioritách v rozdielnych kultúrach.

Počas štyroch rokov milióny ľudí z 233 krajín zaznamenali 40 miliónov rozhodnutí, čím sa projekt stal jednou z najväčších štúdií zameraných na globálne morálne preferencie. Nový dokument uverejnený v časopise Nature prezentuje analýzu týchto údajov a odhaľuje, ako sa etika odlišuje v závislosti od kultúry, ekonomiky a zemepisnej polohy.

Ide o klasický problém „električkovej dilemy“. Po ulici sa nekontrolovane rúti električka, ktorá už-už zrazí a usmrtí 5 ľudí. Vy máte prístup k páke, ktorá presmeruje električku na inú koľaj, no tam by predčasne ukončila život iného človeka. Čo urobíte? Potiahnete páčku a obetujete jeden život namiesto piatich?

Moral Machine využil túto myšlienku na testovanie deviatich rôznych situácií, v ktorých by malo autonómne auto rozhodnúť o uprednostnení ľudí pred zvieratami, pasažierov pred chodcami, viac životov pred jedným, ženy pred mužmi, mladých ľudí pred starými, vyššie postavené osoby pred bežnými ľuďmi. A napokon: malo by auto odbočiť (konať) alebo nezmeniť smer (zostať nečinné)? Nešlo však len o jednoduché rozhodnutie typu jedna k jednej. Experiment postavil účastníkov pred rôzne kombinácie, napríklad či má autonómne vozidlo pokračovať rovno a zabiť troch starších chodcov, alebo si to namieriť do múra a usmrtiť troch mladých cestujúcich.

Výskumníci zistili, že preferencie sa značne líšia v závislosti od krajiny, ale takisto korelujú s kultúrou a ekonomikou. Napríklad je menej pravdepodobné, že účastníci z viac kolektivistickej kultúry (Čína, Japonsko) ušetria mladých na úkor starých. Výskumníci to pripísali väčšiemu dôrazu danej kultúry na úctu k starším ľuďom. Respondenti z krajín s viac individualistickou kultúrou uprednostnili skôr mladých pred starými.

Podobne účastníci z chudobnejších krajín boli zhovievavejší k chodcom, ktorí prechádzali cez cestu porušujúc predpisy, oproti tým, ktorí prechádzali správne. A účastníci z krajín s vysokou mierou ekonomickej nerovnosti vykazovali väčšie rozdiely v zaobchádzaní s jednotlivcami s vysokým a nízkym sociálnym postavením.

Výsledky takisto ukázali, že účastníci z individualistických kultúr (Spojené kráľovstvo, USA) kladú silnejší dôraz na ušetrenie väčšieho počtu životov oproti všetkým ostatným rozhodnutiam – podľa názoru autorov je to možno pre väčší dôraz na hodnotu každého jednotlivca v ich spoločnosti.

Krajiny nachádzajúce sa blízko seba vykazovali bližšie morálne preferencie, pričom tvorili tri dominantné zoskupenia: západ, východ, juh. Výskumníci uznávajú, že výsledky môžu byť skreslené tým, že účastníci neboli vybraní, ale sa zapojili spontánne, a keďže museli mať pripojenie na internet, mali zrejme vyššiu sociálnu pozíciu a technickú úroveň.

Štúdia môže mať zaujímavé dôsledky pre krajiny, kde sa v súčasnosti testujú autonómne autá, pretože tieto preferencie by mohli zohrávať úlohu pri formulovaní návrhov na reguláciu takýchto vozidiel. Výskumníci však dúfajú, že výsledky pomôžu technológom pri uvažovaní o etike umelej inteligencie aj mimo rámca autonómnych vozidiel.

Zdroj: technologyreview.com.

Zobrazit Galériu
Autor: Redakcia

Nechajte si posielať prehľad najdôležitejších správ emailom

Mohlo by Vás zaujímať

Technológie

Umelá inteligencia pre dobro Slovenska!

29.09.2019 00:00

Slovenská republika sa radí medzi krajiny, ktoré azda najviac ovplyvní vývoj umelej inteligencie. Veľká vlna globalizácie ustupuje a obchodné bariéry sa zvyšujú. Strata pracovných miest sa možno nater ...

Technológie

Umelá inteligencia sa naučila chápať a riešiť úlohy. Zvládla školský test ôsmakov

16.09.2019 00:10

Aristo úspešne absolvoval školský test pre ôsmakov. Možno si poviete, že to nie je nič zvláštne, lenže Aristo nie je školák, ale program umelej inteligencie. A odborníci považujú zvládnutie tejto úlo ...

Technológie

Nová virálna aplikácia dokáže vložiť vašu tvár do filmov a televíznych relácií

04.09.2019 00:15

V Číne žne úspechy bezplatná aplikácia Zao, ktorá s využitím jedinej fotografie dokáže vložiť vašu tvár do scén zo stoviek filmov a televíznych relácií. Aplikácia sa po svojom uvedení rýchlo dostala ...

6 Comments

  1. A to ti ludia reakcia na: Projekt Moral Machine: Má autonómne auto chrániť život cestujúcich, chodcov na priechode či zvieraťa?
    5.12.2018 22:12
    Sa rozhovali doma za pocitacom alebo sa skumalo koho pozabijali v koliznych situaciach?
    Reagovať
  2. rozdiel reakcia na: Projekt Moral Machine: Má autonómne auto chrániť život cestujúcich, chodcov na priechode či zvieraťa?
    27.11.2018 09:11
    zakladny rozdiel je v tom, ze v realnom zivote je kazdy zodpovedny sam za seba a jeho vlastna sikovnost ovplyvnuje zivot / smrt. v tomto pripade presuvame zodpovednost na stroj a clovek sediaci vo vozidle dava suhlas danemu softwaru ze moj zivot je v tvojich rukach. horsie je, ze tuto zodpovednost presunul vodic vozidla a nie chodec na ulici z coho vyplyva, ze prednost ma chodec a ktokolvek iny mimo daneho vozidla.

    jedinu dolezitu otazku vidim v situacii dvoch autonomnych vozidiel oproti sebe. tam by to malo byt vysledkom algoritmov a priorit. tu ale musia tie vozidla medzi sebou datovo komunikovat aby sa dalo robit rozhodovanie, co neviem ci v zlomku sekundy je v sucasnosti realne. kym sa nadviaze spojenie alebo prenos dat tak dojde k zrazke
    Reagovať
    • RE: rozdiel reakcia na: rozdiel
      27.11.2018 12:11
      Zase pozor, to ze si kupis automonme auto nemoze predsa znamenat ze si prvy na rane cokolvek sa zomelie. V situacii kedy by si pri rucnom riadeni sundal cyklistu lebo ti podbehol by ta akoze auto malo poslat s celou rodinou do protismeru pod tatrovku?
      Reagovať
  3. Odpoveď je... reakcia na: Projekt Moral Machine: Má autonómne auto chrániť život cestujúcich, chodcov na priechode či zvieraťa?
    27.11.2018 08:11
    nikoho. Ako to dosiahnuť? Odstránením kolíznych situácií. Ako dosiahnuť to? Zmenou dopravných zákonov. Ak sa potom stane nehoda tak jednoznačne vinou toho, kto porušil zákon a môže si za to sám. Keď začali po uliciach premávať prvé autá tak pred nimi musel bežať chlapec s červenou zástavkou aby upozornil chodcov na hroziace nebezpečenstvo. Vtedy ešte dopravné zákony neexistovali a až sa nazhromaždil na uliciach dostatočný počet áut tak sa definovali prvé dopravné pravidlá. A to bude treba urobiť aj teraz keď sa na ulice dostanú autonómne autá, iná cesta nie je.
    Reagovať
  4. ubohé reakcia na: Projekt Moral Machine: Má autonómne auto chrániť život cestujúcich, chodcov na priechode či zvieraťa?
    27.11.2018 06:11
    príde mi to ako otázka typu "Akú farbu má rýchlosť ?" Otázka je gramaticky správna, v prenesenom význame by sa na ňu dalo aj odpovedať, ale z pohľadu fyziky, kde je rýchlosť jednoznačne definovaná len ako dráha za jednotku času a farba tam vôbec nevystupuje je odpoveď : "Rýchlosť je od farby nezávislá". Toto je podobné. Niekto sa pýta "Koho má auto zabiť ?" odpoveď je "Daj si facku". Jednoducho ak to nemajú poriadne otestované nech to nepúšťajú medzi ľudí vôbec. Príde mi to ako nezodpovedné tlačenie na pílu pretože, do toho už x - spoločností vrazilo veľa peňazí na výskum a už by to zrejme chceli aj späť. U procesorov sa tiež napríklad požaduje spoľahlivosť na 99.99% a nie len 99%.
    Toto je čistý morálny fail.
    Reagovať
    • RE: ubohé reakcia na: ubohé
      12.12.2018 10:12
      Možná som ťa zle pochopil. Ale táto dilema je teoretická, lebo v prvom rade je auto nastavene zrážke zabrániť. Až keď všetko zlyhalo. A stále sú nejaké životy ohrozené tak vtedy táto dilema nastane. A až vtedy tieto pravidlá budú uplatnené.
      Reagovať

Vyhľadávanie

Dgitalna medicina

Najnovšie videá

SlovakiaTech 2019