Umelá inteligencia vie, či čoskoro zomriete. My však netušíme, ako to vie

Zdá sa, že strojové učenie je stále tajomnejšie a výkonnejšie, no vedci nie vždy chápu, ako funguje. V novej štúdii algoritmus strojového učenia vedel určiť na základe výsledkov echokardiogramu (ECG), kto z kardiologických pacientov s najväčšou pravdepodobnosťou zomrie do jedného roka. Algoritmus fungoval lepšie ako tradičné odhady lekárov. Štúdiu vykonali vedci z pennsylvánskej regionálnej zdravotníckej skupiny Geisinger.

Najprekvapivejší bol počet ľudí, o ktorých sa lekári podľa normálneho ECG nazdávali, že sú zdraví, no umelá inteligencia u nich presne predpovedala riziko smrti. Na napodobnenie rozhodovania kardiológov urobil tím Geisinger paralelný algoritmus z faktorov, ktoré lekári používajú na výpočet rizika. Nie je totiž praktické zaznamenávať individuálne výsledky 400 000 skutočných ľudských lekárov.

No ukázalo sa, že táto úroveň podrobnosti môže viesť k zlým výsledkom. Ak sa k schopnostiam lekárov pridal lepší algoritmus, viedlo to k presnejším výsledkom u rizikových pacientov. No vedci, ktorí algoritmus študujú, nedokážu spätným inžinierstvom analyzovať, ako to dokázal.

Výskumníci v tomto prípade použili algoritmus na rozdelenie ľudí do dvoch skupín – tých, ktorí prežijú, a tých, ktorí v priebehu jedného roka zomrú. Po roku sa merala úspešnosť spočívajúca v tom, koľko ľudí zaradil algoritmus do správnych skupín. Ľudia mohli byť zle zaradení v oboch smeroch – falošne pozitívne aj falošne negatívne, čo by mohlo ovplyvniť ich liečbu.

Algoritmus preukázal lepšie výsledky – jeho skóre bolo 85 % oproti 65 až 80 percentám úspešnosti pri tradičnej metóde. V tejto štúdii vedci použili uzavreté dáta po uplynutí roka, aby vyhodnotili výsledky. Vynára sa však etická otázka, týkajúca sa využívania ​​neprevereného mechanizmu na zmenu spôsobu, akým dnes liečime pacientov.

Lenže čo ak zásah na základe strojového učenia môže viesť k záchrane životov? Lekársky výskum naráža na takéto etické prekážky vo všetkých smeroch. Výsledky tejto štúdie ešte budú musieť overiť ďalšie štúdie, a ak lepšie predpovede pretrvajú, aj tak môžu uplynúť ešte desaťročia, kým sa pacienti začnú liečiť inak.

Zdroj: popularmechanics.com.