Čo je to PhotoDNA a ako funguje?

Internet zjednodušil mnoho vecí, od kontaktu s priateľmi a rodinou až po získanie zamestnania a dokonca aj prácu na diaľku. Výhody tohto prepojeného systému počítačov sú obrovské, ale má aj svoje tienisté stránky.

Na rozdiel od národných štátov je internet globálnou sieťou, ktorú nemôže ovládať žiadna vláda ani orgán. V dôsledku toho nezákonný materiál končí na internete a je veľmi ťažké zabrániť deťom v utrpení a chytiť zodpovedných.

Technológia vyvinutá spoločnosťou Microsoft s názvom PhotoDNA je však krokom k vytvoreniu bezpečnejšieho online priestoru pre deti i dospelých.

Čo je to PhotoDNA?

PhotoDNA je nástroj na identifikáciu obrázkov, ktorý bol prvýkrát vyvinutý v roku 2009. Hoci ide predovšetkým o službu podporovanú spoločnosťou Microsoft, bola vyvinutá profesorom Hanym Faridom z Dartmouth College, odborníkom na analýzu digitálnych fotografií. Účelom PhotoDNA je identifikovať nelegálne obrázky vrátane materiálu pre sexuálne zneužívanie detí, bežne známeho ako CSAM.

Tým, že sa stali bežnejšími smartfóny, digitálne fotoaparáty a vysokorýchlostný internet, zvyšuje sa aj množstvo CSAM nachádzajúceho sa na internete. V snahe identifikovať a odstrániť tieto obrázky spolu s iným nezákonným materiálom obsahuje databáza PhotoDNA milióny záznamov o známych obrázkoch zneužívania.

Spoločnosť Microsoft prevádzkuje systém a databázu spravuje Národné centrum pre nezvestné a zneužívané deti (NCMEC) so sídlom v USA, organizácia zameraná na predchádzanie zneužívaniu detí. Obrázky sa dostanú do databázy po ich nahlásení NCMEC.

Aj keď to nie je jediná služba na vyhľadávanie známych CSAM, PhotoDNA je jednou z najbežnejších metód, vrátane mnohých digitálnych služieb, ako sú Reddit, Twitter a väčšiny produktov vo vlastníctve spoločnosti Google.

PhotoDNA musela byť v prvých dňoch fyzicky nastavená on-premise, ale Microsoft teraz prevádzkuje cloudovú službu PhotoDNA Cloud. To umožňuje menším organizáciám bez rozsiahlej infraštruktúry vykonávať detekciu CSAM.

Ako PhotoDNA funguje?

Keď používatelia internetu alebo orgány činné v trestnom konaní narazia na obrázky zneužívania, sú nahlásené NCMEC prostredníctvom CyberTipline. Sú katalogizované a informácie sa zdieľajú s orgánmi činnými v trestnom konaní, ak ešte neboli. Obrázky sa nahrajú do PhotoDNA, ktorá potom začne vytvárať hash alebo digitálny podpis pre každý jednotlivý obrázok.

Na dosiahnutie tejto jedinečnej hodnoty je fotografia prevedená na čiernobielu fotografiu rozdelená na štvorce a softvér analyzuje výsledné tieňovanie. Jedinečný hash je pridaný do databázy PhotoDNA, zdieľanej medzi fyzickými inštaláciami a cloudom PhotoDNA.

Poskytovatelia softvéru, orgány činné v trestnom konaní a ďalšie dôveryhodné organizácie môžu implementovať skenovanie PhotoDNA do svojich produktov, cloudového softvéru alebo iných pamäťových médií. Systém naskenuje každý obrázok, prevedie ho na hodnotu hash a porovná ho s hašovaním databázy CSAM.

Ak sa nájde zhoda, zodpovedná organizácia bude upozornená a podrobnosti budú postúpené orgánu činnému v trestnom konaní na stíhanie. Obrázky sú zo služby odstránené a používateľské konto je zrušené.

Dôležité je, že nie sú uložené žiadne informácie o vašich fotografiách, služba je plne automatizovaná bez zapojenia ľudí a nemôžete vytvárať obrázky znova z hodnoty hash.

Od roku 2015 môžu organizácie používať PhotoDNA aj na analýzu videí.

V auguste 2021 Apple zlomil krok s väčšinou ostatných firiem z oblasti Big Tech a oznámil, že budú používať svoje vlastné služba na skenovanie užívateľských telefónov iPhone na CSAM.

Pochopiteľne, tieto plány dostali značnú odozvu, pretože vyzerali, že porušujú postoj spoločnosti k ochrane súkromia, a mnoho ľudí sa obáva, že skenovanie bude postupne zahŕňať non-CSAM, čo nakoniec povedie k zadným vrátkam zákona vymáhanie.

Používa PhotoDNA rozpoznávanie tváre?

V dnešnej dobe sme s algoritmami dostatočne oboznámení. Tieto kódované pokyny nám ukazujú relevantné a zaujímavé príspevky v našich kanáloch sociálnych médií, podporujú systémy rozpoznávania tváre a dokonca rozhodujú, či nám bude ponúknutý pracovný pohovor alebo pôjdeme na vysokú školu.

Môžete si myslieť, že algoritmy budú v jadre PhotoDNA, ale automatizácia detekcie obrazu týmto spôsobom by bola veľmi problematická. Napríklad by to bolo neuveriteľne invazívne, narušilo by to naše súkromie a nehovoriac o tom, že algoritmy nie sú vždy správne.

Napríklad spoločnosť Google má dobre zdokumentované problémy so softvérom na rozpoznávanie tváre. Keď sa služba Fotky Google prvýkrát spustila, urážlivo zaradila čiernych ľudí do kategórie goríl. V marci 2017 parlamentný výbor pre dohľad počul, že niektoré algoritmy rozpoznávania tváre sú nesprávne 15 percent času a je väčšia pravdepodobnosť, že nesprávne identifikujú černochov.

Títo typy algoritmov strojového učenia sú stále bežnejšou záležitosťou, ale ich monitorovanie vhodným spôsobom môže byť náročné. Softvér sa efektívne rozhoduje sám a vy musíte spätne analyzovať, ako dospel ku konkrétnemu výsledku.

Je pochopiteľné, že vzhľadom na typ obsahu, ktorý PhotoDNA hľadá, by efekt nesprávnej identifikácie mohol byť katastrofálny. Našťastie sa systém nespolieha na rozpoznávanie tváre a dokáže nájsť iba vopred identifikované obrázky so známym hashom.

Používa Facebook PhotoDNA?

Facebook je vlastníkom a prevádzkovateľom najväčších a najobľúbenejších sociálnych sietí na svete a každý deň sa zaoberá množstvom obsahu generovaného používateľmi. Aj keď je ťažké nájsť spoľahlivé, aktuálne odhady, analýza v roku 2013 navrhol, aby sa na Facebook denne nahralo asi 350 miliónov obrázkov.

Teraz to bude pravdepodobne oveľa vyššie, pretože k službe sa pripojilo viac ľudí, spoločnosť prevádzkuje viacero spoločností siete (vrátane Instagramu a WhatsAppu) a máme jednoduchší prístup k kamerám smartfónov a sme spoľahliví internet. Vzhľadom na svoju úlohu v spoločnosti musí Facebook obmedziť a odstrániť CSAM a iný nezákonný materiál.

Našťastie to spoločnosť vyriešila včas a v roku 2011 sa rozhodla pre službu Microsoft PhotoDNA. Od oznámenia pred viac ako desaťročím existuje len málo údajov o tom, ako efektívne to bolo. Avšak, 91 percent všetky správy o CSAM v roku 2018 pochádzali z Facebooku a Facebook Messengera.

Robí PhotoDNA bezpečnejší internet?

Služba vyvinutá spoločnosťou Microsoft je nepochybne základným nástrojom. PhotoDNA zohráva kľúčovú úlohu v predchádzaní šíreniu týchto obrázkov a môže dokonca pomáhať ohrozeným deťom.

Hlavnou chybou systému je však to, že dokáže vyhľadávať iba vopred určené obrázky. Ak PhotoDNA nemá uložený hash, nemôže identifikovať urážlivé obrázky.

Je jednoduchšie ako kedykoľvek predtým nasnímať a nahrať obrázky zneužívania vo vysokom rozlíšení online a zneužívatelia to robia čím ďalej tým viac prechádza na bezpečnejšie platformy, ako je Dark Web a šifrované aplikácie na odosielanie správ nelegálny materiál. Ak ste na Dark Web ešte nenarazili, stojí za to si prečítať o rizikách spojených so skrytou stránkou internetu.

Je Dark Web nezákonný?

Kriminálne aktivity je možné nájsť prostredníctvom darknets, je však skutočne nezákonné ísť na temný web?

Čítajte ďalej

O autorovi