Image
27.11.2018 6 Comments

Projekt Moral Machine: Má autonómne auto chrániť život cestujúcich, chodcov na priechode či zvieraťa?

V roku 2014 výskumníci v laboratóriu MIT Media Lab navrhli experiment s názvom Moral Machine. Cieľom bolo vytvoriť platformu podobnú hre, ktorá mala zhromažďovať rozhodnutia ľudí o tom, ako by autonómne vozidlo malo chrániť či obetovať životy v rôznych situáciách. Získané údaje by mali poskytnúť prehľad o kolektívnych etických prioritách v rozdielnych kultúrach.

Počas štyroch rokov milióny ľudí z 233 krajín zaznamenali 40 miliónov rozhodnutí, čím sa projekt stal jednou z najväčších štúdií zameraných na globálne morálne preferencie. Nový dokument uverejnený v časopise Nature prezentuje analýzu týchto údajov a odhaľuje, ako sa etika odlišuje v závislosti od kultúry, ekonomiky a zemepisnej polohy.

Ide o klasický problém „električkovej dilemy“. Po ulici sa nekontrolovane rúti električka, ktorá už-už zrazí a usmrtí 5 ľudí. Vy máte prístup k páke, ktorá presmeruje električku na inú koľaj, no tam by predčasne ukončila život iného človeka. Čo urobíte? Potiahnete páčku a obetujete jeden život namiesto piatich?

Moral Machine využil túto myšlienku na testovanie deviatich rôznych situácií, v ktorých by malo autonómne auto rozhodnúť o uprednostnení ľudí pred zvieratami, pasažierov pred chodcami, viac životov pred jedným, ženy pred mužmi, mladých ľudí pred starými, vyššie postavené osoby pred bežnými ľuďmi. A napokon: malo by auto odbočiť (konať) alebo nezmeniť smer (zostať nečinné)? Nešlo však len o jednoduché rozhodnutie typu jedna k jednej. Experiment postavil účastníkov pred rôzne kombinácie, napríklad či má autonómne vozidlo pokračovať rovno a zabiť troch starších chodcov, alebo si to namieriť do múra a usmrtiť troch mladých cestujúcich.

Výskumníci zistili, že preferencie sa značne líšia v závislosti od krajiny, ale takisto korelujú s kultúrou a ekonomikou. Napríklad je menej pravdepodobné, že účastníci z viac kolektivistickej kultúry (Čína, Japonsko) ušetria mladých na úkor starých. Výskumníci to pripísali väčšiemu dôrazu danej kultúry na úctu k starším ľuďom. Respondenti z krajín s viac individualistickou kultúrou uprednostnili skôr mladých pred starými.

Podobne účastníci z chudobnejších krajín boli zhovievavejší k chodcom, ktorí prechádzali cez cestu porušujúc predpisy, oproti tým, ktorí prechádzali správne. A účastníci z krajín s vysokou mierou ekonomickej nerovnosti vykazovali väčšie rozdiely v zaobchádzaní s jednotlivcami s vysokým a nízkym sociálnym postavením.

Výsledky takisto ukázali, že účastníci z individualistických kultúr (Spojené kráľovstvo, USA) kladú silnejší dôraz na ušetrenie väčšieho počtu životov oproti všetkým ostatným rozhodnutiam – podľa názoru autorov je to možno pre väčší dôraz na hodnotu každého jednotlivca v ich spoločnosti.

Krajiny nachádzajúce sa blízko seba vykazovali bližšie morálne preferencie, pričom tvorili tri dominantné zoskupenia: západ, východ, juh. Výskumníci uznávajú, že výsledky môžu byť skreslené tým, že účastníci neboli vybraní, ale sa zapojili spontánne, a keďže museli mať pripojenie na internet, mali zrejme vyššiu sociálnu pozíciu a technickú úroveň.

Štúdia môže mať zaujímavé dôsledky pre krajiny, kde sa v súčasnosti testujú autonómne autá, pretože tieto preferencie by mohli zohrávať úlohu pri formulovaní návrhov na reguláciu takýchto vozidiel. Výskumníci však dúfajú, že výsledky pomôžu technológom pri uvažovaní o etike umelej inteligencie aj mimo rámca autonómnych vozidiel.

Zdroj: technologyreview.com.

Zobrazit Galériu
Autor: Redakcia

Nechajte si posielať prehľad najdôležitejších správ emailom

Mohlo by Vás zaujímať

Technológie

Umelá inteligencia „oživila“ Salvadora Dalího

16.05.2019 00:05

Návštevníkov múzea v St. Petersburgu na Floride bude vítať digitálne oživená simulácia Salvadora Dalího. Je vytvorená pomocou strojového učenia a technológií deepfake a naprogramovaná tak, aby komunik ...

Technológie

Prelomový AI generátor textov môžete použiť na písanie príbehov, básní i novinových článkov

15.05.2019 00:15

Systémy s umelou inteligenciou sú čoraz lepšie pri tvorbe písaných textov. Dokazuje to aj nová webová aplikácia na stránke TalkToTransformer.com. Ktokoľvek tu môže zadať textovú výzvu, na ktorú bude s ...

Technológie

Kyberbezpečnosť bez umelej inteligencie nebude mať v budúcnosti šancu

07.05.2019 00:03

Umelá inteligencia a strojové učenie sa dostáva do popredia v mnohých odvetviach, od automobilizmu cez bankovníctvo až po služby. A kyberbezpečnosť nie je výnimkou. Poprední hráči v obore IT bezpečnos ...

q

6 Comments

  1. A to ti ludia reakcia na: Projekt Moral Machine: Má autonómne auto chrániť život cestujúcich, chodcov na priechode či zvieraťa?
    5.12.2018 22:12
    Sa rozhovali doma za pocitacom alebo sa skumalo koho pozabijali v koliznych situaciach?
    Reagovať
  2. rozdiel reakcia na: Projekt Moral Machine: Má autonómne auto chrániť život cestujúcich, chodcov na priechode či zvieraťa?
    27.11.2018 09:11
    zakladny rozdiel je v tom, ze v realnom zivote je kazdy zodpovedny sam za seba a jeho vlastna sikovnost ovplyvnuje zivot / smrt. v tomto pripade presuvame zodpovednost na stroj a clovek sediaci vo vozidle dava suhlas danemu softwaru ze moj zivot je v tvojich rukach. horsie je, ze tuto zodpovednost presunul vodic vozidla a nie chodec na ulici z coho vyplyva, ze prednost ma chodec a ktokolvek iny mimo daneho vozidla.

    jedinu dolezitu otazku vidim v situacii dvoch autonomnych vozidiel oproti sebe. tam by to malo byt vysledkom algoritmov a priorit. tu ale musia tie vozidla medzi sebou datovo komunikovat aby sa dalo robit rozhodovanie, co neviem ci v zlomku sekundy je v sucasnosti realne. kym sa nadviaze spojenie alebo prenos dat tak dojde k zrazke
    Reagovať
    • RE: rozdiel reakcia na: rozdiel
      27.11.2018 12:11
      Zase pozor, to ze si kupis automonme auto nemoze predsa znamenat ze si prvy na rane cokolvek sa zomelie. V situacii kedy by si pri rucnom riadeni sundal cyklistu lebo ti podbehol by ta akoze auto malo poslat s celou rodinou do protismeru pod tatrovku?
      Reagovať
  3. Odpoveď je... reakcia na: Projekt Moral Machine: Má autonómne auto chrániť život cestujúcich, chodcov na priechode či zvieraťa?
    27.11.2018 08:11
    nikoho. Ako to dosiahnuť? Odstránením kolíznych situácií. Ako dosiahnuť to? Zmenou dopravných zákonov. Ak sa potom stane nehoda tak jednoznačne vinou toho, kto porušil zákon a môže si za to sám. Keď začali po uliciach premávať prvé autá tak pred nimi musel bežať chlapec s červenou zástavkou aby upozornil chodcov na hroziace nebezpečenstvo. Vtedy ešte dopravné zákony neexistovali a až sa nazhromaždil na uliciach dostatočný počet áut tak sa definovali prvé dopravné pravidlá. A to bude treba urobiť aj teraz keď sa na ulice dostanú autonómne autá, iná cesta nie je.
    Reagovať
  4. ubohé reakcia na: Projekt Moral Machine: Má autonómne auto chrániť život cestujúcich, chodcov na priechode či zvieraťa?
    27.11.2018 06:11
    príde mi to ako otázka typu "Akú farbu má rýchlosť ?" Otázka je gramaticky správna, v prenesenom význame by sa na ňu dalo aj odpovedať, ale z pohľadu fyziky, kde je rýchlosť jednoznačne definovaná len ako dráha za jednotku času a farba tam vôbec nevystupuje je odpoveď : "Rýchlosť je od farby nezávislá". Toto je podobné. Niekto sa pýta "Koho má auto zabiť ?" odpoveď je "Daj si facku". Jednoducho ak to nemajú poriadne otestované nech to nepúšťajú medzi ľudí vôbec. Príde mi to ako nezodpovedné tlačenie na pílu pretože, do toho už x - spoločností vrazilo veľa peňazí na výskum a už by to zrejme chceli aj späť. U procesorov sa tiež napríklad požaduje spoľahlivosť na 99.99% a nie len 99%.
    Toto je čistý morálny fail.
    Reagovať
    • RE: ubohé reakcia na: ubohé
      12.12.2018 10:12
      Možná som ťa zle pochopil. Ale táto dilema je teoretická, lebo v prvom rade je auto nastavene zrážke zabrániť. Až keď všetko zlyhalo. A stále sú nejaké životy ohrozené tak vtedy táto dilema nastane. A až vtedy tieto pravidlá budú uplatnené.
      Reagovať

Vyhľadávanie

FORPSI 042019

Najnovšie videá

RECFRUIT 2019


PC forum button