Stop haterom. Google a Jigsaw chcú očistiť internetové diskusie od toxických komentárov

Technológie
1

Diskusie na obľúbených spravodajských serveroch sú priam zaplavené toxickými komentármi, nadávkami, obvineniami a obťažovaním. Reagovať na tento jav je vec vydavateľov a každý to rieši po svojom. Napríklad Reuters úplne zrušil sekciu komentárov, BuzzFeed experimentuje s vybranými komentármi a New York Times spolupracuje s Jigsaw, inkubátorom Googlu zameraným na internetovú bezpečnosť. Práve ten totiž spustil novú technológiu s názvom Perspective, ktorá si kladie za cieľ vyčistiť sekciu komentárov na internete.

New York Times dostáva denne okolo 11 000 komentárov a Jigsaw ich používa na „kŕmenie“ svojho modelu strojového učenia, ktorý má určiť „jedovaté poznámky“.  Ide o hrubé, neúctivé alebo nevhodné komentáre, ktoré by vás mohli prinútiť opustiť diskusiu. Moderátori ich potom môžu zodpovedajúcim spôsobom riešiť.

Perpective presahuje rámec kľúčových slov odkazujúcich napr. na hanobenie rasy a zaoberá sa aj kontextom, v ktorom sú používané – či sú súčasťou priameho útoku na iného diskutujúceho, alebo reagujú na tému príbehu. Technológia bude vydavateľom k dispozícii prostredníctvo API.

Perspective bude prehliadať diskusie a určovať skóre podľa toho, do akej miery sú podobné príspevkom, ktoré ľudia označili za „toxické“. Musí teda preskúmať stovky tisíc pripomienok od ľudských recenzentov. Vydavatelia potom môžu technológiu použiť na automatické blokovanie určitého obsahu alebo na jednoduché označovanie takýchto komentárov na uľahčenie moderovania.

V priebehu budúceho roka by mali vzniknúť aj nové modely, ktoré budú pracovať v iných jazykoch ako v angličtine, ako aj modely, ktoré môžu identifikovať iné pohľady, napríklad nepodstatné komentáre či diskusné príspevky, ktoré sú „od veci“.

Zdroj: TechcrunchBetanews

 

Redakcia

Všetky autorove články
Google Jigsaw bezpečnosť

1 komentár

trololo reakcia na: Stop haterom. Google a Jigsaw chcú očistiť internetové diskusie od toxických komentárov

28.2.2017 12:02
cenzúra ako vyšitá, učia sa od číny a KĽDR

Pridať komentár

Mohlo by vás zaujímať

Mohlo by vás zaujímať