Vďaka moderným jazykovým modelom AI, ako je ChatGPT a Bing Chat od spoločnosti Microsoft, ktoré sa šíria po celom svete, sa mnoho ľudí obáva, že AI ovládne svet.
Aj keď v dohľadnej budúcnosti nenarazíme na SkyNet, AI je v niekoľkých veciach lepšia ako ľudia. Tu prichádza na rad problém s ovládaním AI.
Vysvetlenie problému s ovládaním AI
Problémom ovládania AI je myšlienka, že AI bude nakoniec lepšia v rozhodovaní ako ľudia. V súlade s touto teóriou, ak ľudia vopred nenastavia veci správne, nebudeme mať šancu veci opraviť neskôr, čo znamená, že AI bude mať efektívnu kontrolu.
Súčasný výskum modelov AI a strojového učenia (ML) je prinajmenšom roky od prekonania ľudských schopností. Je však rozumné si myslieť, že vzhľadom na súčasný pokrok AI prekoná ľudí z hľadiska inteligencie aj efektívnosti.
To neznamená, že modely AI a ML nemajú svoje limity. Sú predsa viazaní fyzikálnymi zákonmi a výpočtovou zložitosťou, ako aj výpočtovým výkonom zariadení, ktoré tieto systémy podporujú. Je však bezpečné predpokladať, že tieto limity sú ďaleko za ľudskými možnosťami.
To znamená, že superinteligentný Systémy AI môžu predstavovať veľkú hrozbu ak nie sú správne navrhnuté s bezpečnostnými opatreniami na kontrolu akéhokoľvek potenciálne nečestného správania. Takéto systémy treba budovať od základov, aby rešpektovali ľudské hodnoty a držali ich silu pod kontrolou. To je to, čo znamená problém s ovládaním, keď hovorí, že veci musia byť nastavené správne.
Ak by systém AI prekonal ľudskú inteligenciu bez náležitých bezpečnostných opatrení, výsledok by mohol byť katastrofálny. Takéto systémy by mohli prevziať kontrolu nad fyzickými zdrojmi, keďže mnohé úlohy sa dosahujú lepšie alebo efektívnejšie. Keďže systémy AI sú navrhnuté tak, aby dosahovali maximálnu efektivitu, strata kontroly môže viesť k vážnym následkom.
Kedy sa uplatňuje problém s ovládaním AI?
Hlavným problémom je, že čím lepší je systém AI, tým ťažšie je pre ľudského nadriadeného monitorovať technológiu, aby sa zabezpečilo ľahké prevzatie manuálneho riadenia v prípade zlyhania systému. Navyše, ľudská tendencia spoliehať sa na automatizovaný systém je vyššia, keď systém väčšinu času funguje spoľahlivo.
Skvelým príkladom toho je Súprava Tesla Full-Self Driving (FSD).. Zatiaľ čo auto môže jazdiť samo, vyžaduje si to, aby mal človek ruky na volante, pripravený prevziať kontrolu nad autom v prípade poruchy systému. Keď sa však tieto systémy AI stanú spoľahlivejšími, pozornosť aj tých najpozoruhodnejších ľudí sa začne meniť a závislosť na autonómnom systéme sa zvýši.
Čo sa teda stane, keď autá začnú jazdiť rýchlosťou, ktorú ľudia nedokážu držať? Nakoniec prenecháme kontrolu autonómnym systémom auta, čo znamená, že systém AI bude ovládať váš život, aspoň kým nedosiahnete svoj cieľ.
Dá sa problém s ovládaním AI vyriešiť?
Existujú dve odpovede na to, či je alebo nie je možné vyriešiť problém s ovládaním AI. Po prvé, ak si otázku vyložíme doslovne, problém s ovládaním sa nedá vyriešiť. Nemôžeme urobiť nič, čo by sa priamo zameralo na ľudskú tendenciu spoliehať sa na automatizovaný systém, keď väčšinu času funguje spoľahlivo a efektívnejšie.
Ak by sa však táto tendencia považovala za vlastnosť takýchto systémov, môžeme navrhnúť spôsoby, ako problém kontroly obísť. Napríklad, Algoritmické rozhodovanie a problém kontroly výskumná práca navrhuje tri rôzne metódy, ako sa vysporiadať s ťažkou situáciou:
- Používanie menej spoľahlivých systémov vyžaduje, aby sa človek aktívne zapojil do systému, pretože menej spoľahlivé systémy nepredstavujú problém s riadením.
- Čakať, kým systém prekoná ľudskú efektívnosť a spoľahlivosť, pred nasadením v reálnom svete.
- Implementovať len čiastočnú automatizáciu pomocou rozkladu úloh. To znamená, že automatizované sú len tie časti systému, ktoré nevyžadujú ľudskú obsluhu na vykonanie dôležitej úlohy. Nazýva sa to prístup dynamického/komplementárneho prideľovania funkcií (DCAF).
Prístup DCAF vždy stavia ľudského operátora do čela automatizovaného systému a zabezpečuje, že jeho vstup riadi najdôležitejšie časti rozhodovacieho procesu systému. Ak je systém dostatočne pútavý na to, aby ľudská obsluha neustále venovala pozornosť, problém s ovládaním sa dá vyriešiť.
Dokážeme niekedy skutočne ovládať AI?
Keď sa systémy AI stanú vyspelejšími, schopnejšími a spoľahlivejšími, budeme im naďalej ukladať ďalšie úlohy. Problém ovládania AI však možno vyriešiť správnymi opatreniami a ochrannými opatreniami.
AI nám už mení svet, väčšinou k lepšiemu. Pokiaľ je technológia pod ľudským dohľadom, nemali by sme sa ničoho obávať.
