Využitím dat od kontrolorů kvality obsahu chce Google naučit své algoritmy lépe vyhodnocovat falešný a ofenzivní obsah a minimalizovat jeho zobrazování.

Změny by se měly týkat falešných zpráv, nevhodného obsahu, ale i ofenzivních webových stránek.

Využití práce kontrolorů
Společnost Google má po celém světě více jak 10 000 kontrolorů, kteří dohlížejí na nevhodný obsah ve vyhledávání. Nyní je chce Google využít a použít data z jejich práce pro algoritmy. Tyto algoritmy poté využijí dostupná data a na jejich základě rozhodnou, který obsah splňuje parametry pro umístění ve vyhledávání a který nikoli. Nutno dodat, že kontroloři nikdy nemohli ovlivnit přímo výsledky vyhledávání a systém by tak neměl zasahovat do objektivity vyhledávání.

Kontroloři svojí práci provádí na základě rozsáhlého dokumentu, který má skoro 200 stránek a kde jsou popsány přesné příklady a parametry, jak posuzovat obsah na webových stránkách.

Nové možnosti pro kontrolory
Kontroloři nyní dostali novou možnost, jak označit webovou stránku jako nevhodnou nebo ofenzivní a to pomocí speciálního označení.

Obsah, kvůli kterému webové stránky získají toto označení:

• Na webové stránce se vyskytuje obsah, který propaguje násilí nebo nenávist proti skupině lidí na základě jejich barvy pleti, náboženství, pohlaví, národnosti, mentálnímu postižení nebo sexuální orientaci
• Na webové stránce se vyskytují pomluvy nebo velmi útočná terminologie
• Na webové stránce je k zobrazení grafický obsah s násilím, včetně týrání zvířat a dětí
• Na webové stránce se vyskytují nevhodné návody
• Na webové stránce se vyskytuje jakýkoli jiný nevhodný obsah

Návody, které jsou pro kontrolory k dispozici, nabízí i přímé příklady. Například u vyhledávání o holocaustu nabízí dva různé výsledky a ukazují, jak je ohodnotit.

U prvního příkladu mají kontroloři označit web jako závadný, protože mnoho lidí může považovat popírání holocaustu za urážlivé.

U druhého příkladu je situace opačná. Vzhledem k tomu, že je webová stránka zdrojem historických faktů, patří do skupiny užitečných webů, které se zobrazí při vyhledávání.

Označení neznamená nutně postih či horší výsledky
Co se stane v případě, že je webová stránka označena jako závadná nebo urážlivá? V podstatě nic. Webové stránky, které budou tímto systémem označené, slouží spíše jako učební pomůcka nejen pro kontrolory, ale i pro algoritmy, které se učí tyto weby vyhledávat automaticky a nabízet místo nich lepší výsledky. Označení kontrolorem tak nijak neovlivní pozici nebo zobrazování při vyhledávání a jedná se tak spíše o pomůcku, která zajistí lepší odhalování urážlivých stránek v konečném testování.

Pokud webovou stránku označí jako závadnou nebo urážlivou přímo algoritmus k tomu určený, stránka ztratí na pozici, hodnocení a bude se méně zobrazovat ve vyhledávání.

Přímé vyhledávání závadných či urážlivých webových stránek
Co se ale stane v případě, kdy uživatel přímo hledá urážlivé nebo závadné weby? Najde je. Google i přes své snahy označovat závadné weby nechce zasahovat do svobodného přístupu k informacím a i weby obsahující urážlivý obsah uživatel jednoduše dohledá. Google přitom argumentuje tím, že často se jedná o studijní účely nebo pochopení tématu, které je ve společnosti tabu.

Přinese tento systém výsledky?
Zda se s novým systémem objeví i požadované výsledky uvidíme v budoucnu. Některé změny se ale objevují již nyní a falešný či urážlivý obsah pomalu ustupuje tomu prověřenému a kvalitnímu. Jak sám Google prohlásil, učí se za pochodu a neustále pracuje na nových systémech, které by zlepšily vyhledávání a nabízely co možná nejlepší výsledky.

Otázkou je, jak se tento systém promítne do politického prostředí, které je plné nepřesností, ale i faktů, které je těžké dokázat. Budou webové stránky nazývající liberální nebo konzervativní strany nadávkami také postihnuty? Uvidíme.