Image
18.4.2019 3 Comments

Komentár: Algoritmy robia rozhodnutia namiesto ľudí. Kam až to môže viesť?

V ponuke Amazonu sa pred istým časom objavila kniha evolučného biológa Petra Lawrencea s cenou 23 698 655,93 dolára (plus poštovné 3,99 dolára). Ukázalo sa, že nešlo o kreativitu personálu, spackali to algoritmy. Amazon chybu, samozrejme, rýchlo opravil. No čo ak algoritmy spôsobujú takéto interferencie aj v prípadoch, keď si to vôbec nemusíme všimnúť? Čo ak je naša realita čoraz viac konštruovaná algoritmami? Nedávno dvaja americkí vedci Dionysios Demetis a Allen Lee publikovali v časopise Journal of the Association for Information Systems dokument, v ktorom si dali za cieľ hlbšie preskúmať účinky technológií využívajúcich algoritmy UI.

Prieskum ich priviedol k záveru, že postupom času sa zmenili úlohy informačných technológií a ľudí. Postupne sme obmedzovali našu rozhodovaciu schopnosť a umožnili sme algoritmom prevzatie rozhodovania. Nielenže sme sa tak odrezali od rozhodovania, ktoré za nás robia stroje, ale sme aj hlboko zasiahnutí nepredvídateľnými spôsobmi ich rozhodovania. Stali sme sa ľudskými artefaktmi, ktoré technológia vytvára, formuje a používa.

Napríklad v oblasti práva sa právni analytici postupne nahrádzajú umelou inteligenciou, čo znamená, že úspešná obhajoba alebo obžaloba sa môže čiastočne opierať o algoritmy. Softvér dokonca môže predpovedať budúcich zločincov a kontrolovať ľudskú slobodu tým, že rozhodne o umožnení či neumožnení kaucie. Týmto spôsobom sa mysle sudcov formujú rozhodovacími mechanizmami, ktorým nerozumejú, nevedia, o aký komplexný proces ide a koľko údajov zohľadňuje.

Aj na trhu práce sa rozmohlo nadmerné spoliehanie sa na technológie v niektorých veľkých spoločnostiach pri filtrovaní životopisov uchádzačov o prácu. Náboroví pracovníci pritom ani nevidia údaje niektorých potenciálnych kandidátov. Tak je živobytie ľudí vystavené na milosť strojom, ktoré môžu byť ovplyvnené predsudkami. Na vlastnej skúsenosti sa o tom presvedčil napr. Amazon. Ďalej je tu tzv. automatizovaná analýza sentimentu, ktorá analyzuje pozitívne a negatívne názory na rôzne firmy na základe webových zdrojov. Jej výsledky potom využívajú obchodné algoritmy, ktoré robia automatizované finančné rozhodnutia bez účasti ľudí.

V skutočnosti algoritmy fungujúce bez ľudského zásahu hrajú významnú úlohu na finančných trhoch. Napríklad až 85 percent všetkých obchodov na devízových trhoch vykonávajú iba algoritmy. Preto sa rozbehli „zbrojné preteky“ s cieľom vyvinúť čoraz zložitejšie systémy pre tento trh, kde sa prideľujú obrovské sumy peňazí čisto na základe rozhodnutí strojov. V malej miere ľudia a spoločnosti, ktoré tieto algoritmy vytvárajú, môžu ovplyvniť to, čo algoritmy robia a ako to robia. Ale pretože veľká časť umelej inteligencie zahŕňa programovací softvér, ktorý jej umožní splniť úlohu samostatne, často nevieme presne, čo sa za jej rozhodovacím procesom skrýva.

Môže to viesť k nezamýšľaným následkom, ktoré dizajnéri vôbec nepredpokladali. Napríklad v roku 2010 činnosť algoritmov dopomohla k najväčšiemu poklesu indexu Dow Jones Industrial Average Index, ktorý v priebehu niekoľkých minút stratil takmer 9 % z hodnoty. Zistenie toho, čo vyvolalo tento pokles, si vyžiadalo šesťmesačné vyšetrovanie. Nebola to však chyba v programe. Problém vyvolalo vzájomné pôsobenie miliónov rozhodnutí algoritmov, ktoré sa uskutočňovali nepredvídateľným spôsobom, pričom sledovali vlastnú logiku, čím vytvorili na trhu zostupnú špirálu.

Podmienky, ktoré to umožnili, vznikli preto, že ľudia, ktorí riadia obchodný systém, začali v posledných rokoch ľudské rozhodnutia pokladať za prekážku v efektívnosti trhu. Tak sa spustil proces, v ktorom počítače úplne nahradili ľudí. Finančný svet investoval milióny do superrýchlych počítačov, aby ubral milisekundy z času, za ktorý môžu algoritmy realizovať svoje rozhodnutia. Keď je rýchlosť taká dôležitá, ľudská bytosť, ktorá potrebuje na kliknutie na tlačidlo až 215 milisekúnd, je takmer úplne zbytočná. Naša jediná úloha je prekonfigurovať algoritmy zakaždým, keď zlyhá systém technologických rozhodnutí.

Keďže medzi ľuďmi a technológiami sú vytýčené nové hranice, musíme starostlivo zvažovať, kam nás dovedie naša extrémna závislosť od softvéru. Ak sú ľudské rozhodnutia nahradené algoritmickými, stávame sa nástrojmi, ktorých životy formujú stroje a ich nepredvídateľné dôsledky. Sami tak  nastavujeme dominanciu technológií. Musíme rozhodnúť, kým ešte môžeme, čo to znamená pre nás ako jednotlivcov, ale aj pre celú spoločnosť.

Zdroj: sciencealert.com.

Zobrazit Galériu
Autor: Redakcia

Nechajte si posielať prehľad najdôležitejších správ emailom

Mohlo by Vás zaujímať

Bezpečnosť 1

Americké námorníctvo vybaví torpédoborce laserom schopným ničiť drony aj lietadlá

16.07.2019 00:05

Do námorných bojov by sa mohli čoskoro zapojiť laserové zbrane, čím boje na otvorenom mori dostanú novú dimenziu. Do roku 2021 budú americké torpédoborce vybavené lasermi schopnými identifikovať a sp ...

Bezpečnosť

Bezpečnostné kamery Wyze iba za 20 dolárov dokážu pomocou UI identifikovať ľudí

11.07.2019 07:58

Spoločnosť Wyze aktualizovala softvér svojich bezpečnostných kamier, a tak sú trochu inteligentnejšie. Dokážu identifikovať ľudí prostredníctvom umelej inteligencie. Táto funkcia je k dispozícii pre ...

Bezpečnosť

Satelity vás už nájdu kedykoľvek a kdekoľvek na planéte

04.07.2019 00:10

 V roku 2013 polícia v Grants Pass (Oregon, USA) dostala tip, že istý muž nezákonne pestuje marihuanu vo svojom dvore. Skontrolovala preto aplikáciu Google Earth a satelitný obraz spred 4 mesiacov sku ...

q

3 Comments

  1. neuro-taktická zbraň reakcia na: Komentár: Algoritmy už robia rozhodnutia namiesto ľudí. Kam to môže viesť?
    24.4.2019 19:04
    domnievam sa, že Slovenská republika disponuje zbraňou výkonnejšou ako je atómová, je to neuro-taktická zbraň, ktorá mapuje myšlienky na mozog jedinca pomocou počítača Ak sa nejedná o hypnózu jedinca Človek dokáže určiť viac ráz presne čas na hodinách len tým, že mu to povedali presne do mozgu myšlienko-strojom Dokonca vie o deň skôr, čo bude na markíze vo večerných správach Dokonca vie, že v susednom meste starosta usporadúva guláš bez toho, že by iní mali tú info v meste Alebo ju majú, ale posunú ju myšlienko-strojom ďalej To všetko už máme priatelia, dúfam že budete čoskoro zahrnutí do siete sajborgov-cyborgov Čakajú nás neuveriteľné zážitky bez hlasiviek Presne ako predpovedali vedci - o tisíc rokov nám hlasivky zaniknú Netreba ich, dorozumievame sa myšlienkami silikónovo titánovými nanitmi v mozgu ovládanými tenzorovými jednotkami Skrátka neurónová sieť vám tú myšlienku vytvorí aj pošle do mozgu a je VAŠA ;-) Váš cyborg-robotník :-)
    Reagovať
  2. opiti alebo hlupi su v redakcii reakcia na: Komentár: Algoritmy už robia rozhodnutia namiesto ľudí. Kam to môže viesť?
    19.4.2019 13:04
    Clanok ani necitam, lebo z nadpisu je hned jasne, ze ide o bludy v hlavach redakcie.
    Reagovať
  3. algoritmy reakcia na: Komentár: Algoritmy už robia rozhodnutia namiesto ľudí. Kam to môže viesť?
    18.4.2019 09:04
    Pisete o algoritmoch ako keby rastli u suseda na zahradke. Ale oni nerastu. Niekto ich instrukciu po instrukcii napise. A ten niekto je zodpovedny za to ci funguju alebo nefunguju.

    Dalsia moznost je ak system riadi neuronova siet, tam je spravanie zavisle od vyukovych dat (a uspesnost tranovania od topologie siete). Zase ziadna magia, cista matematika resp. statistika.
    Reagovať

Vyhľadávanie

Najnovšie videá