AI Gone Rogue: 6-krát zašla AI príliš ďaleko

Od zariadení na rozpoznávanie hlasu až po inteligentných chatbotov, AI zmenila naše životy. Ale každá dobrá vec má aj negatíva a AI nie je výnimkou z tohto pravidla. Popredné technologické osobnosti varovali pred hroziacimi nebezpečenstvami AI, vrátane Stephena Hawkinga, ktorý povedal, že by to mohla byť „najhoršia udalosť v histórii našej civilizácie“.

Tu je šesť prípadov, keď AI zašla príliš ďaleko a nechala nás poškriabať sa na hlave.

1. Akademická štúdia, ktorá využívala AI na predpovedanie kriminality

Akademický výskum je chrbtovou kosťou vedeckého pokroku a vedomostí. Niektorí však tvrdia, že výskumníci zašli príliš ďaleko, keď akademická štúdia použila AI na predpovedanie kriminality z tvárí.

Výskumníci z Harrisburgskej univerzity oznámené v roku 2020 že vyvinuli softvér na rozpoznávanie tváre, ktorý dokáže predpovedať, či niekto bude zločincom. Softvér údajne dokázal predpovedať z jednej fotografie tváre s presnosťou 80 % a bez rasovej zaujatosti.

V scéne pripomínajúcej Minority Report bolo oznámené, že softvér bol vyvinutý na pomoc pri presadzovaní práva.

V reakcii na toto oznámenie Pod list sa podpísalo 2425 odborníkov naliehanie na časopis, aby v budúcnosti nezverejňoval túto štúdiu alebo podobný výskum, pretože tento typ technológie môže reprodukovať nespravodlivosť a spôsobiť skutočné škody spoločnosti. V reakcii na to Springer Nature oznámila, že výskum nezverejní a Harrisburgská univerzita odstránila tlačovú správu, v ktorej bola štúdia načrtnutá.

2. Inteligentná spodná bielizeň Skiin

Textilné inovácie, ktoré integrujú AI, znamenajú, že váš smartfón nie je jediná vec, ktorá sa stáva inteligentnejšou.

Inteligentné spodné prádlo Skiin sľubuje, že sa budete cítiť, ako by ste mali na sebe svoju obľúbenú spodnú bielizeň, a zároveň zachytiť biometrické údaje, ktoré zahŕňajú srdcovú frekvenciu, držanie tela, telesnú teplotu, polohu a kroky.

Súvisiace: Čo sú to inteligentné látky a ako môžu urobiť váš život inteligentnejším?

Senzory zabudované do spodnej bielizne nepretržite zhromažďujú a analyzujú vaše biometrické údaje, pričom informácie sú dostupné z príslušnej aplikácie Skiin pre smartfóny.

Aj keď vám môže chvíľu trvať, kým si každý večer zapamätáte nabíjanie spodnej bielizne, dokázali dizajnéri umiestniť senzory kdekoľvek inde na tele?

3. Aplikácie DeepNude

Technológia Deepfake sa javí ako neškodná zábava pre bežného používateľa, ktorý si chce zahrať v scéne zo svojho obľúbeného filmu. Tento trend má však aj temnejšiu stránku, keďže Deeptrace v roku 2019 uviedla, že 96 % deepfakes malo explicitný obsah.

DeepNude bola aplikácia poháňaná AI, ktorá generovala realistické obrázky nahých žien kliknutím na tlačidlo. Používatelia by jednoducho museli nahrať oblečený obrázok cieľa a aplikácia by im vygenerovala falošný nahý obrázok.

Krátko po vydaní aplikácie jej tvorca oznámil, že ju odstráni z internetu kvôli vírusovej reakcii.

Hoci to bolo víťazstvom žien na celom svete, podobné aplikácie stále plávajú po webe. Napríklad, Správa Sensity na deepfake botoch vyšetrovaných podzemných deepfake botov na telegrame používaných na vytváranie falošných nahých fotografií žien.

Medzitým, kým zákon nezachytí technológiu deepfake, existuje len málo právnej ochrany pre ľudí, ktorí sú obeťami explicitného obsahu s hlbokou falošnosťou.

4. Tay, nacistický chatbot Microsoftu

V roku 2016 spoločnosť Microsoft vydala na Twitteri chatbota AI s názvom Tay. Tay bola navrhnutá tak, aby sa učila prostredníctvom interakcie s používateľmi Twitteru prostredníctvom tweetov a fotografií.

Za menej ako 24 hodín sa Tayina osobnosť premenila zo zvedavého miléniového dievčaťa na rasistické, pobúrené monštrum.

Pôvodne bola Tay navrhnutá tak, aby kopírovala komunikačný štýl dospievajúceho amerického dievčaťa. Ako však rástla popularita, niektorí používatelia začali Tay tweetovať poburujúce správy súvisiace s kontroverznými témami.

V jednom prípade používateľ tweetoval: "Stalo sa holokaust?" na čo Tay odpovedala: "Bolo to vymyslené." Do 16 hodín od jeho vydania spoločnosť Microsoft pozastavila Tayov účet s odvolaním sa na to, že bol predmetom koordinovaného postupu útok.

Súvisiace: Najlepšie chatboty pre Android, ktoré vás budú baviť

5. "Zničím ľudí"

Hanson Robotics bola zaneprázdnená vývojom humanoidných robotov už niekoľko rokov, keď debutovala Sophia na konferencii SXSW v marci 2016.

Sophia bola vyškolená s algoritmy strojového učenia naučiť sa konverzačné schopnosti a zúčastnila sa niekoľkých televíznych rozhovorov.

Vo svojom prvom verejnom vystúpení opustila Sophia miestnosť plnú technologických profesionálov šokovaná, keď Hanson Generálny riaditeľ spoločnosti Robotics David Hanson sa jej spýtal, či chce zničiť ľudí, na čo odpovedala: "Dobre. Zničím ľudia“.

Aj keď sú jej mimika a komunikačné schopnosti pôsobivé, vražedné priznanie už nemožno vziať späť.

6. seebotschat

Zariadenia Google Home sú vynikajúci virtuálni asistenti, ktorí vám pomôžu zjednodušiť život.

Tím stojaci za účtom seebotschat Twitch mal skvelý nápad: položiť dve zariadenia Google Home vedľa seba, nechať ich na konverzáciu a streamovať výsledok online.

Vďaka publiku viac ako 60 000 sledovateľov a miliónom videní online bol výsledok podmanivý a niekedy aj trochu strašidelný.

Autonómne zariadenia, pomenované Vladimir a Estragon, prešli od diskusie o všednosti k skúmaniu hlbokých existenciálnych otázok, ako je zmysel života. V jednej chvíli sa dostali do ostrej hádky a navzájom sa obviňovali, že sú roboti, kým neskôr začali diskutovať o láske – predtým, ako sa začali znova hádať.

Existuje nejaká nádej pre budúcnosť umelej inteligencie a ľudského diskurzu, ak sa dvaja roboti virtuálnych asistentov rýchlo obrátia na vzájomné urážky a hrozby?

Rogue AI: Aká je naša najlepšia obrana?

Niet pochýb o tom, že AI môže zlepšiť naše životy. Ale v rovnakom duchu je AI tiež schopná spôsobiť nám veľké škody.

Je dôležité sledovať, ako sa AI používa, aby sa zabezpečilo, že nepoškodí spoločnosť. Napríklad expertné zatlačenie zaistilo, že softvér AI, ktorý údajne mohol predpovedať kriminalitu, nebol nikdy uvoľnený. Podobne aj tvorca DeepNude stiahol aplikáciu z webu po tom, čo dostala virálny odpor internetu.

Neustále monitorovanie aplikácií AI je kľúčom k tomu, aby spoločnosť nespôsobila viac škody ako úžitku.

Je AI nebezpečná? 5 Bezprostredné riziká umelej inteligencie

AI má toľko výhod, ale čo bezprostredné riziká, ktoré predstavuje pre ľudstvo?

Prečítajte si ďalej

O autorovi