Twitter to odhaľuje kvôli orezávaniu umelej inteligencie kvôli predsudkom o rase a pohlaví

Prvýkrát, keď sme počuli myšlienku, že algoritmus orezávania obrázkov v službe Twitter môže mať nejaké predsudky, bol v septembri 2020. Kryptografický inžinier Tony Arcieri nahral dva obrázky, na ktorých figuroval vodca senátnej väčšiny Mitch McConnell a bývalý prezident Barack Obama. AI sa po obidve priblížila McConnellovej tvári.

Keď sa kontroverzia nakoniec dostala k ľuďom na Twitteri, spoločnosť prisľúbila, že bude analyzovať svoj model. Na záver si tieto zistenia prečítame.

Twitter zdieľa výsledky svojej algoritmickej analýzy

Začiatkom mája, Twitter konečne zaviedol ukážky obrázkov v plnej veľkosti na jeho mobilných časových osiach. Príspevok na blogu Twitter odhalil, že aplikácia axedovala svoj algoritmus orezania obrázkov po tom, čo analýza ukázala, že má predsudky založené na rase a pohlaví.

Platforma začala na orezávanie svojich obrázkov používať algoritmus výbežku v roku 2018. Twitter hovorí, že hlavné modely sú trénované na údajoch o sledovaní ľudských očí, ktoré potom používa algoritmus na odhad toho, ktoré subjekty / prvky na obrázku sú podľa neho najpravdepodobnejšie pre väčšinu dôležité ľudí.

Algoritmus by potom vytvoril skóre výbežku pre všetky časti obrázka pred výberom bodu s najvyšším skóre ako stredu plodiny.

Po vykonaní kvantitatívneho testu na kontrolu potenciálnych predsudkov tím zistil, že algoritmus výbežku akoby uprednostňoval ženy pred mužmi a biele osoby pred čiernymi jedincami.

Twitter tiež testoval algoritmus pre „mužský pohľad“, nenašli sa však žiadne dôkazy o zaujatosti objektivizácie.

Aj keby bol algoritmus výbežku upravený tak, aby odrážal dokonalú rovnosť medzi rasovými a rodovými podskupinami, znepokojuje nás to [Twitter] reprezentačným poškodením automatizovaného algoritmu, keď ľudia nemôžu na serveri reprezentovať sami seba, ako chcú plošina. Výtržnosť zadržiava aj ďalšie potenciálne škody, ktoré presahujú rámec tejto analýzy, vrátane necitlivosti na kultúrne nuansy.

Pri zvažovaní kompromisov medzi rýchlosťou a konzistenciou automatizovaného pestovania a jeho rizikami Twitter tvrdí, že jeho tím si uvedomil, že ako orezať obrázok je rozhodnutie, ktoré najlepšie urobia ľudia - nie algoritmy.

Súvisiace: Technologické trendy, ktoré už menia budúcnosť

Twitter sa zbavuje automatického orezávania obrázkov

Twitter už nepoužíva algoritmus výbežku a teraz zobrazuje všetky fotografie so štandardným pomerom strán v systéme iOS aj Android. Pri vytváraní tweetu zistíte, že nová aktualizácia obsahuje aj skutočný náhľad nahraných obrázkov, aby ste vedeli, ako bude všetko vyzerať po zverejnení.

Ak máte záujem o prečítanie akademickej práce, nájdete ju na arXiv.org. Môžete tiež nájsť kód Twitteru pre analýzu na GitHub.

Ako nahrávať a prezerať obrázky 4K na Twitteri

Aplikácia Twitter teraz umožňuje nahrávať a prezerať obrázky v rozlíšení 4K. Tu je postup, ako zmeniť svoje nastavenia.

Prečítajte si Ďalej

O autorovi