Čo je regulácia AI? Kto by mal regulovať AI?

Kľúčové informácie

• Umelá inteligencia potrebuje prísnejšie monitorovanie, keďže sa stále objavujú slabé miesta v oblasti kybernetickej bezpečnosti a obavy o súkromie.
• Vláda, technologické spoločnosti a koncoví používatelia zohrávajú úlohu pri regulácii AI, ale každý prístup má svoje obmedzenia.
• K regulácii AI prispievajú aj médiá, neziskové organizácie, združenia technického priemyslu, akademické inštitúcie a orgány činné v trestnom konaní.

Široká verejnosť má na AI rôzne názory – niektorí veria, že stroje úplne nahradia ľudských pracovníkov, zatiaľ čo iní tvrdia, že AI je módna záležitosť. Jedna vec, na ktorej sa všetci zhodnú, je, že AI potrebuje prísnejšie monitorovanie.

Napriek dôležitosti regulácie umelej inteligencie ustúpilo školeniam. Vývojári sú tak posadnutí budovaním ďalšieho najväčšieho modelu AI, že vymieňajú kybernetickú bezpečnosť za rýchly pokrok. Otázkou nie je, či AI potrebuje reguláciu; ide o to, ktorý riadiaci orgán s primeraným financovaním, ľudskými zdrojmi a technologickými kapacitami prevezme iniciatívu.

Kto by teda mal regulovať AI?

vládne orgány

Rôzni ľudia, od spotrebiteľov až po tech lídri, dúfajú, že vláda bude regulovať AI. Verejne financované inštitúcie na to majú zdroje. Dokonca aj Elon Musk a Sam Altman, dvaja hlavní jazdci pretekov AI, veria, že niektorí obavy o súkromie súvisiace s AI sú príliš nebezpečné na to, aby ich riadiace orgány prehliadli.

Vláda by sa mala zamerať na ochranu súkromia a občianskych slobôd svojich voličov, ak prevezme reguláciu AI. Kyberzločinci stále hľadajú spôsoby, ako využiť systémy AI vo svojich schémach. Jednotlivci, ktorí nie sú dobre oboznámení s AI, sa môžu ľahko nechať oklamať syntetizovanými hlasmi, hlboko falošnými videami a online profilmi ovládanými robotmi.

Jedným z hlavných problémov vlády regulujúcej AI je však to, že by to mohlo neúmyselne potlačiť inovácie. AI je komplexná, vyvíjajúca sa technológia. Pokiaľ úradníci, ktorí dohliadajú na nasadzovanie, vývoj a školenia, nepochopia, ako AI funguje, môžu robiť predčasné a neefektívne rozhodnutia.

Vývojári AI, technologické spoločnosti a laboratóriá

Vzhľadom na potenciálne prekážky, ktoré by mohli vyplynúť z vládneho monitorovania AI, mnohí by radšej riadili reguláciu technologických spoločností. Veria, že vývojári by mali byť zodpovední za technológiu, ktorú vydávajú. Samoregulácia im umožňuje riadiť inovácie a zamerať sa na efektívny rozvoj týchto systémov.

Navyše, ich hĺbkové znalosti AI im pomôžu vytvoriť spravodlivé a informované pokyny, ktoré uprednostňujú bezpečnosť používateľov bez ohrozenia funkčnosti. Ako pri každej technológii, odborné znalosti v tomto odvetví zefektívňujú monitorovanie. Pridelenie neškolených úradníkov na reguláciu technológií, ktorým sotva rozumejú, môže predstavovať viac problémov ako výhod.

Vezmite si ako príklad vypočutie amerického Senátu v roku 2018 o zákonoch o ochrane osobných údajov Facebooku. V tejto správe od The Washington Post, uvidíte, že mnohí zákonodarcovia sú zmätení so základnými funkciami Facebooku. Takže pokiaľ Senát USA nevytvorí jediné oddelenie technických špecialistov, pravdepodobne nebudú kvalifikovaní na reguláciu takého pokročilého, neustále sa meniaceho systému, akým je AI.

Hlavným problémom regulácie technologických spoločností je však to, že pochybné korporácie môžu zneužívať svoju moc. Bez zásahu tretej strany môžu v podstate robiť, čo chcú.

koncových používateľov

Niektorí sa obávajú, že vláda a súkromné ​​subjekty budú zneužívať systémy AI. Nie sú si istí, či by hŕstke riadiacich orgánov udelili úplnú kontrolu nad takýmito výkonnými technológiami, najmä preto, že AI sa stále vyvíja. Mohli by nakoniec bojovať o autoritu namiesto toho, aby pracovali na efektívnej regulácii.

Na zmiernenie týchto rizík sa skeptici domnievajú, že koncoví používatelia si zaslúžia voľnosť pri používaní modelov AI tak, ako chcú. Tvrdia, že vládne orgány by mali zasahovať iba vtedy, keď používatelia AI porušia zákon. Je to ambiciózny cieľ, ale technicky by sa dal dosiahnuť, ak by vývojári AI s otvoreným zdrojom dominovali v trhových podieloch.

To znamená, že toto nastavenie znevýhodňuje jednotlivcov, ktorí nie sú technicky zdatní. Používatelia sú zodpovední za nastavenie obmedzení v rámci svojich systémov – žiaľ, nie každý má na to prostriedky.

Je tiež krátkozraké odstrániť proprietárne modely z trhu. Šírenie open-source modely AI majú niekoľko pozitívnych a negatívnych dopadov; u niektorých prevažujú nevýhody.

Iné subjekty, ktoré zohrávajú úlohu pri regulácii AI

Hoci hlavné subjekty budú stáť na čele regulácie AI, existujú orgány, ktoré zohrávajú významnú úlohu:

Médiá zohrávajú kľúčovú úlohu pri formovaní vnímania AI verejnosťou. Informujú o vývoji v odvetví, zdieľajú nové nástroje, prinášajú povedomie o škodlivom používaní AI a vedú rozhovory s odborníkmi o relevantných obavách.

Väčšina faktov, ktoré koncoví používatelia vedia o AI, v podstate pochádza z médií. Zverejňovanie nepravdivých údajov, či už zámerne alebo nie, spôsobí nezvratné škody – nemôžete podceňovať, ako rýchlo sa dezinformácie šíria.

2. mimovládne organizácie

Niekoľko neziskových organizácií sa sústreďuje na ochranu súkromia a občianskych slobôd používateľov AI. Vzdelávajú verejnosť prostredníctvom bezplatných zdrojov, obhajujú nové politiky, spolupracujú s vládnymi úradníkmi a vyjadrujú prehliadané obavy.

Jediným problémom neziskových organizácií je, že zvyčajne majú nedostatok zdrojov. Keďže nie sú prepojení s vládou, pri každodenných operáciách sa spoliehajú na súkromné ​​žiadosti a dary. Je smutné, že len niekoľko organizácií dostane adekvátne financovanie.

3. Asociácie technického priemyslu

Združenia technického priemyslu zamerané na AI môžu zastupovať práva a záujmy verejnosti. Rovnako ako neziskové organizácie spolupracujú so zákonodarcami, zastupujú dotknutých jednotlivcov, obhajujú spravodlivé politiky a prinášajú povedomie o konkrétnych problémoch.

Rozdiel je však v tom, že často majú väzby na súkromné ​​spoločnosti. Ich členovia stále robia výzvy, ale zvyčajne dostanú dostatok financií od svojich materských organizácií, pokiaľ budú prinášať výsledky.

4. Akademické inštitúcie

Hoci AI prináša niekoľko rizík, je vo svojej podstate neutrálna. Všetky predsudky, problémy so súkromím, bezpečnostné chyby a potenciálne aktivity v oblasti počítačovej kriminality pochádzajú od ľudí, takže AI ako také nie je niečo, čoho sa treba báť.

Málokto však už chápe, ako fungujú moderné modely AI. Mylné predstavy skresľujú vnímanie umelej inteligencie v ľuďoch a udržiavajú neopodstatnené obavy, ako je umelá inteligencia, ktorá ovládne ľudstvo alebo kradne pracovné miesta.

Akademické inštitúcie by mohli vyplniť tieto medzery vo vzdelávaní prostredníctvom dostupných zdrojov. Zatiaľ nie je príliš veľa odborných prác o moderných LLM a systémoch NLP. Verejnosť môže používať AI zodpovednejšie a bojovať proti počítačovej kriminalite, ak úplne pochopí, ako funguje.

5. Orgány činné v trestnom konaní

Orgány činné v trestnom konaní by mali očakávať viac Kybernetické útoky s podporou AI. S rozširovaním generatívnych modelov môžu podvodníci rýchlo syntetizovať hlasy, vytvárať hlboké falošné obrázky, škrabať osobne identifikovateľné informácie (PII) a dokonca vytvoriť úplne nové osoby.

Väčšina agentúr nie je vybavená na zvládnutie týchto zločinov. Mali by investovať do nových systémov a školiť svojich dôstojníkov v oblasti modernej počítačovej kriminality; inak budú mať problém chytiť týchto podvodníkov.

Budúcnosť regulácie AI

Vzhľadom na rýchly charakter AI je nepravdepodobné, že by ju ovládal jediný riadiaci orgán. Áno, technologickí lídri budú mať väčšiu moc ako spotrebitelia, ale rôzne subjekty musia spolupracovať na riadení rizík AI bez toho, aby bránili pokroku. Najlepšie je nastaviť kontrolné opatrenia teraz, kým je umelá všeobecná inteligencia (AGI) stále vzdialeným cieľom.

To znamená, že regulácia AI je rovnako vzdialená ako AGI. Medzitým musia používatelia dodržiavať bezpečnostné postupy na boj proti hrozbám spôsobeným AI. Dobré návyky, ako je obmedzovanie počtu ľudí, s ktorými sa spájate online, a zabezpečenie vašich digitálnych informácií umožňujúcich identifikáciu osôb, už majú za sebou dlhú cestu.