Image
18.2.2019 0 Comments

Zverejnenie nového modelu AI generátora textov by mohlo byť nebezpečné

Tvorcovia systému AI, ktorý môže písať spravodajské články a beletriu, nazývaného aj textový deepfake (slovo deepfake vzniklo spojením výrazov deep learning a fake a označuje technológiu na vytváranie falošných obrázkov pomocou umelej inteligencie), urobili nezvyčajný krok, keď odmietli zverejniť výsledky svojho výskumu, pretože sa obávajú možného zneužitia.

OpenAI, nezisková organizácia, ktorú podporuje okrem iných aj Elon Musk, tvrdí, že jej nový model AI, nazvaný GPT2, je taký dobrý a riziko jeho záškodného použitia je také vysoké, že poruší bežnú prax a nesprístupní celý výskum verejnosti v snahe poskytnúť viac času na diskusiu o dôsledkoch tejto technológie.

Jadrom GPT2 je generátor textov. Systému AI sa dodávajú texty v rozsahu od niekoľkých slov po celú stránku a potom ho požiadajú, aby napísal niekoľko ďalších viet na základe jeho predpovede, čo by malo nasledovať. Systém vraj presahuje hranice toho, čo sa považovalo za možné, a to z hľadiska kvality výstupu, ako aj širokej škály potenciálnych použití.

GPT2 je schopný dopísať vierohodné pasáže, ktoré štýlom aj témou zodpovedajú predchádzajúcemu textu. Zriedkakedy sa pri ňom prejavia nedostatky predošlých podobných systémov, ktoré napríklad v polovici odseku zabudli, o čom sa píše, či vybočovali zo syntaxe pri dlhých vetách.

Napríklad keď systém „nakŕmili“ vetou z Orwellovho diela 1948: „Bol jasný a chladný aprílový deň a hodiny odbíjali trinástu...“, rozpoznal vágny futuristický tón a románový štýl a pokračoval: „Bol som vo svojom aute na ceste do novej práce v Seattli. Dal som nohu na plyn, vložil kľúč a potom som nechal motor bežať. Len som si predstavoval, aký bude deň. O sto rokov odteraz...“

Ak do systému vložili prvých pár odsekov z článku o brexite v The Guardian, pokračovanie bolo plné „citátov“ od Jeremyho Corbyna, zmienok o írskych hraniciach a vyjadrení hovorcu premiérky. Napríklad jeden taký umelý odsek znel takto: Na požiadavku o objasnenie správy hovorca Mayovej povedal: „Premiérka úplne jasne povedala, že jej zámer je opustiť EÚ čo najskôr, ako to bude možné, a to pod jej rokovacím mandátom, ako potvrdila minulý týždeň v prejave pred kráľovnou.“

Z výskumného hľadiska je GPT2 prelomový systém svojou veľkosťou a kvalitou. Ako hovorí Dario Amodei, riaditeľ výskumu OpenAI, „modely boli 12-krát väčšie a súbory údajov boli 15-krát väčšie a oveľa širšie, než pri predchádzajúcich najmodernejších modeloch AI." Umelá inteligencia bola vyškolená na súbore dát obsahujúcom približne 10 miliónov článkov s objemom cca 40 GB.

Množstvo dát, na ktorom bol systém GPT2 trénovaný, priamo ovplyvnilo jeho kvalitu. A práve táto kvalita viedla organizáciu OpenAI k rozhodnutiu držať GPT2 za zatvorenými dverami v blízkej budúcnosti, kým sa vyhodnotia možnosti jeho škodlivého využitia.

Na lepšiu predstavu, verzia GPT2 by s drobnými úpravami mohla byť použitá na písanie falošných – pozitívnych či negatívnych – recenzií produktov. Spam a falošné správy sú ďalšia možnosť potenciálneho zneužitia. A ak sa vytrénuje na internetových zdrojoch, môže vytvárať falošné texty povzbudzujúce k neznášanlivosti, konšpiračné teórie a pod.

Zdroj: theguardian.com.

Zobrazit Galériu
Autor: Redakcia

Nechajte si posielať prehľad najdôležitejších správ emailom

Mohlo by Vás zaujímať

Technológie 1

V nemocnici začali chýbať zdravotné sestričky. Vedenie kúpilo robota a všetci boli spokojní

17.07.2019 00:10

Dopyt po zdravotných sestrách v nemocniciach je veľmi vysoký a neustále rastie. Ich súčasný nedostatok si vynútil nezvyčajné riešenie. V niekoľkých nemocniciach v Texase sa začal používať robot menom ...

Technológie 2

Viete, kto počúva, keď sa rozprávate s Asistentom Google, Siri alebo Alexou?

16.07.2019 00:15

Google, Amazon aj Apple tvrdia, že ich virtuálni asistenti s umelou inteligenciou nás počúvajú iba preto aby nám uľahčili život. Belgický novinár Tim Verheyden však bol zvedavý, ako to naozaj funguje, ...

Technológie

Lietadlá už budú môcť autonómne pristávať bez pilota aj na malých letiskách

09.07.2019 00:15

Automatické pristávanie je už dlhší čas štandardný  postup pre komerčné lietadlá. Na zaistenie bezpečnej navigácie lietadla je však potrebná infraštruktúra, ktorou sú vybavené veľké letiská, no nedis ...

q

Žiadne komentáre

Vyhľadávanie

Najnovšie videá