Používatelia Twitteru objavujú potenciálne rasové predsudky v algoritme automatického orezávania

Twitter sa snaží zistiť, prečo jeho funkcia náhľadu fotografie vykazuje známky rasového zaujatosti. Niekoľko používateľov zistilo, že v porovnaní s bielymi tvárami je pravdepodobnejšie, že z ukážok fotografií budú orezané čierne tváre.

Chyba v algoritme Twitteru

Keď vidíte obrázok na Twitteri, je to iba ukážka, musíte na ňu kliknúť, aby ste videli celý obrázok. Twitter používa algoritmus na orezávanie fotografií a diktuje, čo uvidíte v ukážkach obrázkov.

V roku 2018 spoločnosť Twitter oznámila svoju funkciu inteligentného automatického orezávania v príspevku na webe Twitterový blog. Táto funkcia využíva funkciu „výbežok“ na zvýraznenie najvýznamnejších častí fotografií a podľa toho potom orezáva ukážky fotografií.

Používatelia Twitteru zistili, že neurónová sieť platformy môže mať rasové zaujatie. Jeden užívateľ zverejnil fotografiu amerického senátora Mitcha McConnella po boku bývalého prezidenta Baracka Obamu.

Náhľad obrazu očividne orezáva Obamovu tvár, aj keď je jeho tvár umiestnená v hornej časti fotografie. Keď sa ten istý používateľ pokúsil invertovať farby obrázka, Obamova tvár sa nakoniec objavila v ukážke obrázka.

Ostatní používatelia začali uskutočňovať svoje vlastné experimenty. Používatelia znovu a znovu zistili, že sa zdá, že algoritmus neustále uprednostňuje biele tváre pred čiernymi.

Liz Kelley, členka komunikačného tímu Twitteru, rozposlala tweet v odpovedi na zistenia používateľov Twitteru. Poznamenala, že zatiaľ čo tím Twitter už testoval zaujatosť algoritmu, bude musieť ďalej skúmať.

Všetky tieto objavy pochádzajú z Tweetu používateľa o a Zväčšiť problém s hovorom. Zoom sa nepodarilo zistiť tvár jeho čierneho priateľa, keď sa pokúsil použiť virtuálne pozadie. Keď sa používateľ obrátil na Twitter a zverejnil snímky obrazovky s problémom, Twitter orezal svojho čierneho priateľa z ukážky obrázka.

Odstránenie zaujatosti z Twitteru

Aj keď sú všetky tieto experimenty neformálne, zdá sa, že upozorňujú na skutočný problém. Twitter sa určite bude musieť bližšie pozrieť na svoju funkciu automatického orezávania a zistiť, či má zakorenenú rasovú zaujatosť.

To znamená, že algoritmus automatického orezávania Twitteru nie je jedinou funkciou Twitteru, ktorá je kritizovaná. Veľa používateľov tiež nie je fanúšikom algoritmu platformy, ktorý automaticky usporiada váš informačný kanál.

Ako (a prečo) zakázať algoritmické informačné kanály na Twitteri, Instagrame a Facebooku

Algoritmické kanály slúžia iba sociálnym sieťam. Tu je príklad, ako zmeniť chronologické informačné kanály na Twitteri, Instagrame a Facebooku.

O autorovi