Image
18.2.2019 0 Comments

Zverejnenie nového modelu AI generátora textov by mohlo byť nebezpečné

Tvorcovia systému AI, ktorý môže písať spravodajské články a beletriu, nazývaného aj textový deepfake (slovo deepfake vzniklo spojením výrazov deep learning a fake a označuje technológiu na vytváranie falošných obrázkov pomocou umelej inteligencie), urobili nezvyčajný krok, keď odmietli zverejniť výsledky svojho výskumu, pretože sa obávajú možného zneužitia.

OpenAI, nezisková organizácia, ktorú podporuje okrem iných aj Elon Musk, tvrdí, že jej nový model AI, nazvaný GPT2, je taký dobrý a riziko jeho záškodného použitia je také vysoké, že poruší bežnú prax a nesprístupní celý výskum verejnosti v snahe poskytnúť viac času na diskusiu o dôsledkoch tejto technológie.

Jadrom GPT2 je generátor textov. Systému AI sa dodávajú texty v rozsahu od niekoľkých slov po celú stránku a potom ho požiadajú, aby napísal niekoľko ďalších viet na základe jeho predpovede, čo by malo nasledovať. Systém vraj presahuje hranice toho, čo sa považovalo za možné, a to z hľadiska kvality výstupu, ako aj širokej škály potenciálnych použití.

GPT2 je schopný dopísať vierohodné pasáže, ktoré štýlom aj témou zodpovedajú predchádzajúcemu textu. Zriedkakedy sa pri ňom prejavia nedostatky predošlých podobných systémov, ktoré napríklad v polovici odseku zabudli, o čom sa píše, či vybočovali zo syntaxe pri dlhých vetách.

Napríklad keď systém „nakŕmili“ vetou z Orwellovho diela 1948: „Bol jasný a chladný aprílový deň a hodiny odbíjali trinástu...“, rozpoznal vágny futuristický tón a románový štýl a pokračoval: „Bol som vo svojom aute na ceste do novej práce v Seattli. Dal som nohu na plyn, vložil kľúč a potom som nechal motor bežať. Len som si predstavoval, aký bude deň. O sto rokov odteraz...“

Ak do systému vložili prvých pár odsekov z článku o brexite v The Guardian, pokračovanie bolo plné „citátov“ od Jeremyho Corbyna, zmienok o írskych hraniciach a vyjadrení hovorcu premiérky. Napríklad jeden taký umelý odsek znel takto: Na požiadavku o objasnenie správy hovorca Mayovej povedal: „Premiérka úplne jasne povedala, že jej zámer je opustiť EÚ čo najskôr, ako to bude možné, a to pod jej rokovacím mandátom, ako potvrdila minulý týždeň v prejave pred kráľovnou.“

Z výskumného hľadiska je GPT2 prelomový systém svojou veľkosťou a kvalitou. Ako hovorí Dario Amodei, riaditeľ výskumu OpenAI, „modely boli 12-krát väčšie a súbory údajov boli 15-krát väčšie a oveľa širšie, než pri predchádzajúcich najmodernejších modeloch AI." Umelá inteligencia bola vyškolená na súbore dát obsahujúcom približne 10 miliónov článkov s objemom cca 40 GB.

Množstvo dát, na ktorom bol systém GPT2 trénovaný, priamo ovplyvnilo jeho kvalitu. A práve táto kvalita viedla organizáciu OpenAI k rozhodnutiu držať GPT2 za zatvorenými dverami v blízkej budúcnosti, kým sa vyhodnotia možnosti jeho škodlivého využitia.

Na lepšiu predstavu, verzia GPT2 by s drobnými úpravami mohla byť použitá na písanie falošných – pozitívnych či negatívnych – recenzií produktov. Spam a falošné správy sú ďalšia možnosť potenciálneho zneužitia. A ak sa vytrénuje na internetových zdrojoch, môže vytvárať falošné texty povzbudzujúce k neznášanlivosti, konšpiračné teórie a pod.

Zdroj: theguardian.com.

Zobrazit Galériu
Autor: Redakcia

Nechajte si posielať prehľad najdôležitejších správ emailom

Mohlo by Vás zaujímať

Technológie

Umelá inteligencia „oživila“ Salvadora Dalího

16.05.2019 00:05

Návštevníkov múzea v St. Petersburgu na Floride bude vítať digitálne oživená simulácia Salvadora Dalího. Je vytvorená pomocou strojového učenia a technológií deepfake a naprogramovaná tak, aby komunik ...

Technológie

Prelomový AI generátor textov môžete použiť na písanie príbehov, básní i novinových článkov

15.05.2019 00:15

Systémy s umelou inteligenciou sú čoraz lepšie pri tvorbe písaných textov. Dokazuje to aj nová webová aplikácia na stránke TalkToTransformer.com. Ktokoľvek tu môže zadať textovú výzvu, na ktorú bude s ...

Technológie

Kyberbezpečnosť bez umelej inteligencie nebude mať v budúcnosti šancu

07.05.2019 00:03

Umelá inteligencia a strojové učenie sa dostáva do popredia v mnohých odvetviach, od automobilizmu cez bankovníctvo až po služby. A kyberbezpečnosť nie je výnimkou. Poprední hráči v obore IT bezpečnos ...

q

Žiadne komentáre

Vyhľadávanie

ITAPA 2019

Najnovšie videá

Cyber Central Malware Analysis Training


PC forum button