Pokiaľ ide o sociálne médiá, všetci vieme, že okrem mnohých výhod, ktoré poskytujú pri vytváraní spojení jednoduchšie, môžu existovať aj určité riziká a nebezpečenstvá, ktoré so sebou prináša interakcia online, najmä pre mladých ľudí. Našťastie existujú aplikácie, ktoré sú proaktívne a snažia sa obmedziť tieto škody, ktoré môžu mladým ľuďom prísť, implementáciou správnych technológií moderovania.
Yubo, aplikácia na objavovanie sociálnych sietí naživo, ktorú najčastejšie používa Gen Z, oznámila, že moderuje zvuk naživo technológia expanduje na svoje najväčšie trhy, konkrétne do Spojených štátov amerických, Spojeného kráľovstva, Austrálie a Kanada.
Stalo sa tak po niekoľkých mesiacoch testovania tejto funkcie v niektorých oblastiach Spojených štátov, keď sa spoločnosť naučila, ako riešiť problémy, ktoré prináša analýza zvuku v reálnom čase.
Význam moderovania obsahu
Moderovanie obsahu online je náročná práca. Videli sme to na Facebooku a Twitteri a Instagrame a tak ďalej. Medzi urážkami, nenávistnými komentármi alebo dokonca niekedy násilím alebo sebapoškodzovaním je veľmi dôležité umiernenie, aby boli tieto platformy bezpečné a ich používatelia boli chránení. Na schopnosti skrývať sa za údajnú anonymitu, ktorú ponúka internet, je niečo, čo môže v niektorých ľuďoch vyvolať to najhoršie.
Yubo naďalej ukazuje, že robí všetko, čo môže, aby tomu zabránil, najmä preto, že jeho používateľská základňa je oveľa mladšia. Podľa Yubo je 99 % ich používateľskej základne Gen Z vo veku 13 až 25 rokov. Hoci online obťažovanie nie je príjemné pre nikoho znášať, môže byť obzvlášť škodlivé pre dospievajúcich.
Technológia moderovania obrázkov a videa je tu už nejaký čas a bola implementovaná s rôznymi štádiami úspechu. Moderovanie zvuku, však zostala hlavnou výzvou, najmä pri živých prenosoch. Nezáleží na tom, či ide o priamy prenos nasnímaný pri prechádzke po ulici alebo o ten, kde niekto hrá videohru.
Ako funguje moderovanie zvuku Yubo
Od mája 2022 začala spoločnosť Yubo skúšobnú fázu svojej technológie na moderovanie zvuku v rôznych oblastiach po celých Spojených štátoch. Teraz ďalšia fáza zahŕňa väčšinu anglicky hovoriacich regiónov, kde má Yubo veľkú používateľskú základňu, aby mohla spoločnosť získať lepší prehľad o ich novom bezpečnostnom nástroji.
Aj keď je to stále nová technológia, ktorá by sa v budúcnosti mohla stať široko používanou na odhaľovanie násilia alebo sebapoškodzovania.
Yubo to všetko nerobí sám o sebe, ale skôr v spolupráci s Hive. Hive, ak ste o nich ešte nepočuli, je spoločnosť, ktorá vytvára a poskytuje rozhrania API na moderovanie obsahu na spracovanie obrázkov a videí takmer v reálnom čase.
Technológia, ktorú Yubo implementoval, funguje tak, že nahráva a prepisuje 10-sekundové úryvky zvuku v priamych prenosoch 10 alebo viacerých ľudí. Text okamžite analyzuje umelá inteligencia, aby zistila akékoľvek slová alebo frázy, ktoré porušujú pravidlá aplikácie Pokyny pre komunitu.
Počkajte, tu to nekončí. Aj keď umelá inteligencia môže byť skvelá pri odhaľovaní takýchto vecí, stále je ďaleko od bodu, keď dokáže rozlíšiť medzi skutočným problematickým použitím a falošnými príznakmi.
Falošnými príznakmi môžu byť napríklad piesne hrajúce sa na pozadí alebo hravý jazyk, ktorý nie je úmyselný.
Toto je miesto, kde prichádzajú do hry špecialisti na bezpečnosť Yubo, ktorí sú privedení, aby vyšetrili označené incidenty. Ľudia sú tí, ktorí môžu určiť, či situácia vyžaduje eskaláciu alebo nie, ak existujú akcie to by sa malo zasiahnuť proti ľuďom, ktorí používajú zlé jazyky, alebo dokonca aj vtedy, ak je potrebné zaviesť orgány činné v trestnom konaní v.
Ak je priamy prenos úplne v poriadku, žiadne prepisy sa nekontrolujú ani neudržiavajú po 24-hodinovom limite, takže všetko zostáva súkromné; alebo také súkromné, ako môže byť priamy prenos s viac ako 10 ľuďmi.
Ak však algoritmy zistia napríklad násilné hrozby, nenávistné prejavy alebo sebapoškodzovanie, prepisy sa uchovávajú až jeden rok. Ide, samozrejme, o bezpečnostné opatrenie pre spoločnosť v prípade, že orgány činné v trestnom konaní budú vyžadovať informácie alebo samotná spoločnosť potrebuje podrobnosti na ďalšie interné vyšetrovanie.
Prevádzkový riaditeľ spoločnosti Yubo, Marc-Antoine Durand, vidí rozšírenie moderovanie zvuku technológia ako kľúčový prvok vo vývoji online bezpečnosti v celom odvetví.
„V oblasti detekcie hlasu je potrebné urobiť ešte veľa pokroku, ale sme hrdí na to, že našim kolegom vytvárame cestu byť prvým, kto spustil moderovanie zvuku s Hive, a vďaka tejto skúške pomáha urobiť tento nástroj spoľahlivejším a efektívnejším,“ Durand povedal.
Je zrejmé, že sociálne platformy nechcú bujné šikanovanie, nenávistné prejavy a komentáre podnecujúce násilie, pretože by to odtlačilo ostatných používateľov. Implementácia takejto technológie moderovania je skvelým nástrojom na zaistenie bezpečnosti používateľov a tiež na zabezpečenie rastu a úspechu spoločnosti Yubo z dlhodobého hľadiska.
