
Umelá inteligencia vie, či čoskoro zomriete. My však netušíme, ako to vie
Zdá sa, že strojové učenie je stále tajomnejšie a výkonnejšie, no vedci nie vždy chápu, ako funguje. V novej štúdii algoritmus strojového učenia vedel určiť na základe výsledkov echokardiogramu (ECG), kto z kardiologických pacientov s najväčšou pravdepodobnosťou zomrie do jedného roka. Algoritmus fungoval lepšie ako tradičné odhady lekárov. Štúdiu vykonali vedci z pennsylvánskej regionálnej zdravotníckej skupiny Geisinger.
Najprekvapivejší bol počet ľudí, o ktorých sa lekári podľa normálneho ECG nazdávali, že sú zdraví, no umelá inteligencia u nich presne predpovedala riziko smrti. Na napodobnenie rozhodovania kardiológov urobil tím Geisinger paralelný algoritmus z faktorov, ktoré lekári používajú na výpočet rizika. Nie je totiž praktické zaznamenávať individuálne výsledky 400 000 skutočných ľudských lekárov.
No ukázalo sa, že táto úroveň podrobnosti môže viesť k zlým výsledkom. Ak sa k schopnostiam lekárov pridal lepší algoritmus, viedlo to k presnejším výsledkom u rizikových pacientov. No vedci, ktorí algoritmus študujú, nedokážu spätným inžinierstvom analyzovať, ako to dokázal.
Výskumníci v tomto prípade použili algoritmus na rozdelenie ľudí do dvoch skupín – tých, ktorí prežijú, a tých, ktorí v priebehu jedného roka zomrú. Po roku sa merala úspešnosť spočívajúca v tom, koľko ľudí zaradil algoritmus do správnych skupín. Ľudia mohli byť zle zaradení v oboch smeroch – falošne pozitívne aj falošne negatívne, čo by mohlo ovplyvniť ich liečbu.
Algoritmus preukázal lepšie výsledky – jeho skóre bolo 85 % oproti 65 až 80 percentám úspešnosti pri tradičnej metóde. V tejto štúdii vedci použili uzavreté dáta po uplynutí roka, aby vyhodnotili výsledky. Vynára sa však etická otázka, týkajúca sa využívania neprevereného mechanizmu na zmenu spôsobu, akým dnes liečime pacientov.
Lenže čo ak zásah na základe strojového učenia môže viesť k záchrane životov? Lekársky výskum naráža na takéto etické prekážky vo všetkých smeroch. Výsledky tejto štúdie ešte budú musieť overiť ďalšie štúdie, a ak lepšie predpovede pretrvajú, aj tak môžu uplynúť ešte desaťročia, kým sa pacienti začnú liečiť inak.
Zdroj: popularmechanics.com.