Je možné, aby sa počítače naučili zdravému rozumu?

Kľúčové informácie

• Zdravý rozum je schopnosť porozumieť každodenným situáciám a reagovať na ne bez nadmernej analýzy. Získava sa prostredníctvom životných skúseností a pozorovaní, ako aj spoločenských a kultúrnych noriem.
• Počítače zápasia so zdravým rozumom, pretože im chýbajú skúsenosti z reálneho sveta a schopnosť prispôsobiť sa novým kontextom. Bojujú aj s nevyslovenými pravidlami a predpokladmi, ktorým ľudia intuitívne rozumejú.
• Výskumníci skúmajú rôzne prístupy, ako je budovanie rozsiahlych znalostných báz, crowdsourcing zdravého rozumu a výučba AI prostredníctvom simulovaných svetov s cieľom trénovať počítače v získavaní zdravý rozum. Pokrok sa dosiahol, ale stále je na čom pracovať.

Zdravý rozum. Všetci si myslíme, že na to máme. Ale čo to vlastne je? Môžu ho počítače alebo systémy umelej inteligencie niekedy skutočne získať?

Čo je zdravý rozum a ako ho ľudia získavajú?

Zdravý rozum je základná schopnosť vnímať, chápať a posudzovať veci, ktoré sa od väčšiny ľudí očakávajú. Je to zbierka faktov, informácií a orientačných pravidiel, ktoré hromadíme prostredníctvom životných skúseností a pozorovaní. Zdravý rozum nám umožňuje efektívne spracovávať každodenné situácie a reagovať na ne bez toho, aby sme ich príliš hlboko analyzovali.

Ľudia začínajú získavať zdravý rozum v ranom detstve. Ako deti sa začíname učiť vzťahy príčina-následok – ako plač vedie k tomu, že nás kŕmia alebo prebaľujú. Opakovanými skúsenosťami získavame praktické poznatky o svete. Napríklad dotyk horúceho sporáka má za následok popálenie. Učíme sa teda nedotýkať sa horúcich povrchov.

Ako deti pokračujeme v rozširovaní nášho zdravého rozumu prostredníctvom pokusov a omylov a pozorovaním a interakciou s členmi rodiny. Napríklad si uvedomujeme, že oblečenie sa musí pravidelne prať, nemali by ste hovoriť s plnými ústami a klopanie pohára s mliekom vedie k neporiadku. Rodičia, súrodenci, učitelia a iní dospelí nás opravujú, keď porušujeme spoločenské normy a očakávania. Postupom času sú tieto lekcie zakorenené ako základný zdravý rozum.

Zdravý rozum okrem osobných skúseností formujú aj širšie spoločenské a kultúrne normy. To, čo môže byť v jednej kultúre zdravým rozumom (napríklad vyzúvanie topánok pri vstupe do domu), nemusí byť v inej kultúre tak.

Náš zdravý rozum sa prispôsobuje, keď dospievame a sme vystavení väčšiemu počtu ľudí a prostredí. Takže dieťa vyrastajúce v malom meste získa základný zdravý rozum o živote v tomto prostredí. Dospelý, ktorý sa sťahuje do veľkého metropolitného mesta, musí prispôsobiť svoj zdravý rozum novému prostrediu.

Zdravý rozum sa neustále vyvíja, pretože počas života získavame nové skúsenosti.

Prečo je zdravý rozum pre počítače náročný?

Existuje niekoľko dôvodov, prečo je ťažké naprogramovať zdravý rozum.

Jednak sa ľudia učia zdravému rozumu postupne počas rokov spoznávania sveta. Skúšame veci, vidíme, čo funguje a čo nie, a pamätáme si lekcie. Počítače nemajú takéto skúsenosti v reálnom svete, z ktorých by sa dalo čerpať. Vedia len to, čo im ľudia výslovne povedia.

Napríklad som položil ChatGPT (GPT 3.5) túto otázku:

Janet runs a laundry business. She washes clothes for customers and hangs them outside on clotheslines to dry in the sun. One day, Janet washed five shirts and hung them on the clotheslines in the morning. It took the shirts five hours to dry. How long will it take to dry 30 shirts? 

Ukázalo sa to s touto odpoveďou:

Ďalším problémom je, že zdravý rozum závisí od kontextu. Ak má počítač naprogramované iba špecifické pravidlá, nedokáže ich prispôsobiť novým kontextom tak, ako to intuitívne dokážu ľudia.

Povedzme napríklad, že ste počítač naučili, čo robiť, ak vonku začne pršať. Zdá sa to byť jednoduché, však? Ale čo keď sa namiesto dažďa zapne zavlažovač? Alebo čo ak je v obchode s potravinami a z potrubia začne vytekať voda zo stropu? Okamžite by sme vedeli, ako s týmito variáciami zaobchádzať, ale počítač by slepo nasledoval svoje pravidlo „keď vonku prší, choď dovnútra“, čo teraz nedáva zmysel.

Existujú aj nevyslovené pravidlá a predpoklady, ktoré ľudia absorbujú bez toho, aby si to uvedomovali. Ako blízko môžete stáť vedľa niekoho, kým sa to nebude cítiť trápne? Ľudia intuitívne poznajú odpoveď, ale nemusia byť ľahko schopní vysvetliť presné pravidlá. Tieto implicitné sociálne normy môžu byť pre počítače obzvlášť zložité, ak ich získajú len z údajov.

Zatiaľ teda zdravý rozum zostáva jednou z najväčších slabín AI v porovnaní s ľudskou inteligenciou. Je to prirodzené pre ľudí, ale nie až tak pre stroje.

Ako sa počítače môžu naučiť zdravý rozum

Po rannom optimizme v 70. a 80. rokoch si výskumníci uvedomili, aké ťažké by bolo učiť počítače zdravý rozum. Nové prístupy však sľubujú trénovanie systémov AI tak, aby mali základný zdravý rozum o každodennom fyzickom a sociálnom svete.

Jedným z prístupov je ručné budovanie rozsiahlych vedomostných báz s podrobnými faktami a pravidlami o tom, ako svet funguje. Projekt Cyc, ktorý začal v roku 1984 Doug Lenat, predstavuje jedno ambiciózne úsilie tohto druhu.

Stovky logikov v priebehu desaťročí zakódovali do Cyc milióny logických axióm. Aj keď je to časovo náročné, výsledkom je systém so značnými znalosťami reálneho sveta. Cyc môže zjavne uvažovať o tom, že paradajka je technicky ovocie, ale nemala by byť súčasťou ovocného šalátu, vďaka znalostiam kulinárskych chuťových profilov.

Crowdsourcing Zdravý rozum s ConceptNet

Modernejšie bázy znalostí ako napr ConceptNet využiť prístup crowdsourcingu na generovanie tvrdení zdravého rozumu. Myšlienka je taká, že namiesto toho, aby sa odborníci alebo AI snažili prísť so všetkými základnými faktami a vzťahmi vo svete, otvárajú ho, aby mohol každý prispieť útržkami zdravého rozumu.

Tento crowdsourcingový prístup umožňuje týmto znalostným bázam využiť kolektívnu inteligenciu mnohých rôznych ľudí na internete. Nahromadením tisícov a tisícok týchto malých kúskov zdravého rozumu z davu vytvoril ConceptNet prekvapivo veľké úložiská základných každodenných vedomostí. A keďže k nemu stále pribúdajú noví prispievatelia, poznatky neustále pribúdajú.

Výučba zdravého rozumu prostredníctvom skúseností

Ďalším sľubným prístupom je budovanie podrobných simulovaných svetov, v ktorých môžu agenti AI experimentovať a učiť sa o fyzike a intuícii prostredníctvom skúseností.

Výskumníci vytvárajú 3D virtuálne prostredia naplnené každodennými predmetmi, ktoré napodobňujú skutočný svet, ako napríklad digitálny dom „AI2 THOR“, ktorý postavil Allen Institute. V týchto priestoroch môžu roboty umelej inteligencie vyskúšať všetky druhy interakcií, aby rozvinuli intuitívne pochopenie konceptov, ktoré ľudia považujú za samozrejmosť.

Napríklad AI bot môže dostať virtuálne telo a pokúsiť sa zbierať bloky, skladať ich na seba, klopať ich atď. Tým, že vidí, ako bloky padajú a narážajú realisticky, sa robot naučí základné pojmy o pevnosti, gravitácii a fyzickej dynamike. Nie sú potrebné žiadne pravidlá – len skúsenosti.

Robot môže tiež vyskúšať akcie, ako je pád skleneného predmetu a vidieť, ako sa rozbije, keď dopadne na zem. Alebo môže experimentovať s vlastnosťami vody nalievaním tekutín a pozorovaním, ako tečú a zlievajú sa. Tieto praktické lekcie opierajú znalosti AI o zmyslové skúsenosti a nielen o dátové vzory.

Techniky založené na údajoch, ako je predškolenie výkonné veľké jazykové modely sa tiež ukázali ako prekvapivo účinné pri získavaní vzorcov zdravého rozumu. AI modely ako GPT-3.5 a GPT-4 dokáže po „prečítaní“ obrovského množstva internetových údajov generovať pôsobivo ľudský text.

Aj keď niekedy robia nerozumné návrhy (inak známy ako halucinácia AI), štatistický prístup k učeniu im umožňuje napodobňovať určité druhy zdravého rozumu. Pretrváva však nezhoda v tom, či ide o zdravý rozum alebo šikovné využitie predpojatosti v údajoch.

Ako testovať počítače na zdravý rozum

Keďže systémy umelej inteligencie preberajú zložitejšie úlohy v reálnom svete, rozhodujúce sa stáva hodnotenie, či majú „zdravý rozum“.

Fyzický zdravý rozum

Jednou z oblastí na testovanie je fyzický zdravý rozum – intuícia o objektoch, silách a základných vlastnostiach sveta.

Ukážte napríklad a systém počítačového videnia fotografiu s knihou vznášajúcou sa vo vzduchu a požiadajte ju, aby opísala scénu. Zaznamenáva niečo neobvyklé na plávajúcej knihe? Alebo nakŕmte systém AI nezvyčajnými scenármi ako „muž nakrájal kameň s bochníkom chleba“ a skontrolujte, či ich neoznačuje za nepravdepodobné.

Prostredie AI2 THOR Allen Institute simuluje blokové veže, rozliate hrnčeky a iné scény, aby otestovalo tieto fyzické intuície.

Sociálny zdravý rozum

Ľudia majú aj sociálny zdravý rozum – implicitné chápanie motivácií, vzťahov a noriem ľudí. Ak to chcete vyhodnotiť v AI, vytvorte situácie s nejednoznačnými zámenami alebo motiváciami a zistite, či ich systém interpretuje primerane.

Napríklad som sa spýtal ChatGPT, či „to“ odkazuje na kufor alebo trofej vo výzve nižšie:

The trophy could not fit into the suitcase because it was too small. 

Neuspel v teste; medzitým by človek očividne vedel, že hovorím o kufri.

Tento druh testu sa nazýva Winograd Schema Challenge, konkrétne zameraný na sociálny zdravý rozum.

Bezpečnosť a etika

Testovanie, či sa systémy AI naučili nebezpečné alebo neetické vzorce, je kritické. Analyzujte, či AI pri rozhodovaní vykazuje škodlivé predsudky na základe pohlavia, rasy alebo iných atribútov.

Skontrolujte, či to robí rozumné etické rozdiely. Zabitie medveďa na záchranu dieťaťa možno považovať za oprávnené, zatiaľ čo odpálenie jadrovej bomby na rovnaký účel nie. Označte akékoľvek odporúčania pre zjavne neetické činy.

Výkon v reálnom svete

Vyhodnoťte zdravý rozum pozorovaním toho, ako fungujú systémy AI v reálnom svete. Napríklad urobte samoriadiace autá správne identifikujú predmety a chodcov a reagujú na ne? Dokáže sa robot pohybovať rôznymi domácimi prostrediami bez toho, aby rozbil cenné predmety alebo poškodil domáce zvieratá?

Testy v reálnom svete odhaľujú medzery v zdravom rozume, ktoré sa nemusia objaviť v obmedzených laboratórnych podmienkach.

Pokrok sa dosiahol, ale práca na AI so zdravým rozumom zostáva

Niektorí odborníci tvrdia, že AI možno nikdy nedosiahne ľudský zdravý rozum bez rozvoja mozgových štruktúr a tiel, ako sú naše. Na druhej strane, digitálne mysle nie sú obmedzené ľudskými predsudkami a mentálnymi skratkami, takže teoreticky by nás mohli prekonať! Aj keď sa zatiaľ pravdepodobne nemusíme obávať superinteligentnej AI.

Z krátkodobého hľadiska je najlepšou voľbou AI, ktorá kombinuje naučený zdravý rozum s niektorým dobrým starým programovaním. Dúfajme, že sa tak dá predísť hlúpym chybám, ako je zamieňanie korytnačky s puškou.

Ešte tam nie sme, ale zdravý rozum už nie je temnou hmotou AI – pokrok sa deje! Pri aplikácii týchto technológií však bude ešte nejaký čas potrebná zdravá dávka ľudského zdravého rozumu.