Image
18.4.2019 3 Comments

Komentár: Algoritmy robia rozhodnutia namiesto ľudí. Kam až to môže viesť?

V ponuke Amazonu sa pred istým časom objavila kniha evolučného biológa Petra Lawrencea s cenou 23 698 655,93 dolára (plus poštovné 3,99 dolára). Ukázalo sa, že nešlo o kreativitu personálu, spackali to algoritmy. Amazon chybu, samozrejme, rýchlo opravil. No čo ak algoritmy spôsobujú takéto interferencie aj v prípadoch, keď si to vôbec nemusíme všimnúť? Čo ak je naša realita čoraz viac konštruovaná algoritmami? Nedávno dvaja americkí vedci Dionysios Demetis a Allen Lee publikovali v časopise Journal of the Association for Information Systems dokument, v ktorom si dali za cieľ hlbšie preskúmať účinky technológií využívajúcich algoritmy UI.

Prieskum ich priviedol k záveru, že postupom času sa zmenili úlohy informačných technológií a ľudí. Postupne sme obmedzovali našu rozhodovaciu schopnosť a umožnili sme algoritmom prevzatie rozhodovania. Nielenže sme sa tak odrezali od rozhodovania, ktoré za nás robia stroje, ale sme aj hlboko zasiahnutí nepredvídateľnými spôsobmi ich rozhodovania. Stali sme sa ľudskými artefaktmi, ktoré technológia vytvára, formuje a používa.

Napríklad v oblasti práva sa právni analytici postupne nahrádzajú umelou inteligenciou, čo znamená, že úspešná obhajoba alebo obžaloba sa môže čiastočne opierať o algoritmy. Softvér dokonca môže predpovedať budúcich zločincov a kontrolovať ľudskú slobodu tým, že rozhodne o umožnení či neumožnení kaucie. Týmto spôsobom sa mysle sudcov formujú rozhodovacími mechanizmami, ktorým nerozumejú, nevedia, o aký komplexný proces ide a koľko údajov zohľadňuje.

Aj na trhu práce sa rozmohlo nadmerné spoliehanie sa na technológie v niektorých veľkých spoločnostiach pri filtrovaní životopisov uchádzačov o prácu. Náboroví pracovníci pritom ani nevidia údaje niektorých potenciálnych kandidátov. Tak je živobytie ľudí vystavené na milosť strojom, ktoré môžu byť ovplyvnené predsudkami. Na vlastnej skúsenosti sa o tom presvedčil napr. Amazon. Ďalej je tu tzv. automatizovaná analýza sentimentu, ktorá analyzuje pozitívne a negatívne názory na rôzne firmy na základe webových zdrojov. Jej výsledky potom využívajú obchodné algoritmy, ktoré robia automatizované finančné rozhodnutia bez účasti ľudí.

V skutočnosti algoritmy fungujúce bez ľudského zásahu hrajú významnú úlohu na finančných trhoch. Napríklad až 85 percent všetkých obchodov na devízových trhoch vykonávajú iba algoritmy. Preto sa rozbehli „zbrojné preteky“ s cieľom vyvinúť čoraz zložitejšie systémy pre tento trh, kde sa prideľujú obrovské sumy peňazí čisto na základe rozhodnutí strojov. V malej miere ľudia a spoločnosti, ktoré tieto algoritmy vytvárajú, môžu ovplyvniť to, čo algoritmy robia a ako to robia. Ale pretože veľká časť umelej inteligencie zahŕňa programovací softvér, ktorý jej umožní splniť úlohu samostatne, často nevieme presne, čo sa za jej rozhodovacím procesom skrýva.

Môže to viesť k nezamýšľaným následkom, ktoré dizajnéri vôbec nepredpokladali. Napríklad v roku 2010 činnosť algoritmov dopomohla k najväčšiemu poklesu indexu Dow Jones Industrial Average Index, ktorý v priebehu niekoľkých minút stratil takmer 9 % z hodnoty. Zistenie toho, čo vyvolalo tento pokles, si vyžiadalo šesťmesačné vyšetrovanie. Nebola to však chyba v programe. Problém vyvolalo vzájomné pôsobenie miliónov rozhodnutí algoritmov, ktoré sa uskutočňovali nepredvídateľným spôsobom, pričom sledovali vlastnú logiku, čím vytvorili na trhu zostupnú špirálu.

Podmienky, ktoré to umožnili, vznikli preto, že ľudia, ktorí riadia obchodný systém, začali v posledných rokoch ľudské rozhodnutia pokladať za prekážku v efektívnosti trhu. Tak sa spustil proces, v ktorom počítače úplne nahradili ľudí. Finančný svet investoval milióny do superrýchlych počítačov, aby ubral milisekundy z času, za ktorý môžu algoritmy realizovať svoje rozhodnutia. Keď je rýchlosť taká dôležitá, ľudská bytosť, ktorá potrebuje na kliknutie na tlačidlo až 215 milisekúnd, je takmer úplne zbytočná. Naša jediná úloha je prekonfigurovať algoritmy zakaždým, keď zlyhá systém technologických rozhodnutí.

Keďže medzi ľuďmi a technológiami sú vytýčené nové hranice, musíme starostlivo zvažovať, kam nás dovedie naša extrémna závislosť od softvéru. Ak sú ľudské rozhodnutia nahradené algoritmickými, stávame sa nástrojmi, ktorých životy formujú stroje a ich nepredvídateľné dôsledky. Sami tak  nastavujeme dominanciu technológií. Musíme rozhodnúť, kým ešte môžeme, čo to znamená pre nás ako jednotlivcov, ale aj pre celú spoločnosť.

Zdroj: sciencealert.com.

Zobrazit Galériu
Autor: Redakcia

Nechajte si posielať prehľad najdôležitejších správ emailom

Bezpečnosť

Výstraha: Aj vaša verzia Windows môže byť ohrozená, stiahnite si „záplatu”

16.08.2019 00:10

Microsoft vydal varovanie pred kritickou zraniteľnosťou nachádzajúcou sa vo všetkých verziách Windows od Sedmičiek až po Desiatky, vrátane serverových verzií. Chyba navyše umožňuje, aby sa vírus šíri ...

Bezpečnosť

Hackeri môžu premeniť bežné reproduktory na akustickú kybernetickú zbraň

13.08.2019 00:10

Okrem prehrávania hudby či konverzácie sú bežné komerčné reproduktory fyzicky schopné vysielať aj frekvencie mimo pásma počuteľného pre ľudí. Na bezpečnostnej konferencii Defcon v Las Vegas jeden z vý ...

Bezpečnosť

Do 1,4 miliardy iPhonov a iPadov sa dá nabúrať

13.08.2019 00:00

Spoločnosť Check Point oznámila, že našla spôsob, ako sa dá nabúrať do každého iPhonu či iPadu s operačným systémom od iOS 8 až po beta verzie iOS 13. Ide teda o zariadenia z posledných 8 rokov, ktoré ...

q

3 Comments

  1. neuro-taktická zbraň reakcia na: Komentár: Algoritmy už robia rozhodnutia namiesto ľudí. Kam to môže viesť?
    24.4.2019 19:04
    domnievam sa, že Slovenská republika disponuje zbraňou výkonnejšou ako je atómová, je to neuro-taktická zbraň, ktorá mapuje myšlienky na mozog jedinca pomocou počítača Ak sa nejedná o hypnózu jedinca Človek dokáže určiť viac ráz presne čas na hodinách len tým, že mu to povedali presne do mozgu myšlienko-strojom Dokonca vie o deň skôr, čo bude na markíze vo večerných správach Dokonca vie, že v susednom meste starosta usporadúva guláš bez toho, že by iní mali tú info v meste Alebo ju majú, ale posunú ju myšlienko-strojom ďalej To všetko už máme priatelia, dúfam že budete čoskoro zahrnutí do siete sajborgov-cyborgov Čakajú nás neuveriteľné zážitky bez hlasiviek Presne ako predpovedali vedci - o tisíc rokov nám hlasivky zaniknú Netreba ich, dorozumievame sa myšlienkami silikónovo titánovými nanitmi v mozgu ovládanými tenzorovými jednotkami Skrátka neurónová sieť vám tú myšlienku vytvorí aj pošle do mozgu a je VAŠA ;-) Váš cyborg-robotník :-)
    Reagovať
  2. opiti alebo hlupi su v redakcii reakcia na: Komentár: Algoritmy už robia rozhodnutia namiesto ľudí. Kam to môže viesť?
    19.4.2019 13:04
    Clanok ani necitam, lebo z nadpisu je hned jasne, ze ide o bludy v hlavach redakcie.
    Reagovať
  3. algoritmy reakcia na: Komentár: Algoritmy už robia rozhodnutia namiesto ľudí. Kam to môže viesť?
    18.4.2019 09:04
    Pisete o algoritmoch ako keby rastli u suseda na zahradke. Ale oni nerastu. Niekto ich instrukciu po instrukcii napise. A ten niekto je zodpovedny za to ci funguju alebo nefunguju.

    Dalsia moznost je ak system riadi neuronova siet, tam je spravanie zavisle od vyukovych dat (a uspesnost tranovania od topologie siete). Zase ziadna magia, cista matematika resp. statistika.
    Reagovať

eFocus_2019

Videá