V oblasti umelej inteligencie sa dosahuje pokrok na bezprecedentnej úrovni, pričom nový vývoj sa uskutočňuje takmer každý týždeň. Generatívne nástroje AI, ako je ChatGPT, sú teraz také populárne, že sa integrujú všade.
Ale mali by sme? Používanie technológie AI na produktivitu, vzdelávanie a zábavu má zmysel. Spoločnosti však teraz uvažujú o ich umiestnení priamo do našich aplikácií na odosielanie správ, čo sa môže ukázať ako deštruktívne. Tu je sedem dôvodov prečo.
1. AI chatboty majú tendenciu halucinovať
Ak ste použili ChatGPT, Bing alebo Bard, viete, že generatívne chatboty AI majú tendenciu „halucinovať“. Halucinácia AI je, keď si tieto chatboty vymýšľajú veci z dôvodu nedostatku adekvátnych tréningových údajov na dopyt požadovaný používateľom.
Inými slovami, poskytujú dezinformácie, no znejú v nich sebavedomo, ako keby to bola skutočnosť. Toto je veľký problém, pretože veľa ľudí si pri používaní chatbota neoveruje fakty a verí, že je to štandardne presné. Je to jeden z najväčších chýb, ktorým sa treba vyhnúť pri používaní nástrojov AI.
Po umiestnení do aplikácií na odosielanie správ je množstvo škody, ktoré môže spôsobiť, ešte väčšie, pretože ľudia to môžu použiť na (úmyselne alebo neúmyselne) šíria dezinformácie medzi svojimi kontaktmi a na sociálnych médiách, šíria propagandu a podporujú ozvenu komory.
2. Ľudia sa neradi rozprávajú s robotmi
Pomyslite na to, aké nepríjemné je, keď sa pokúšate kontaktovať zákaznícku podporu spoločnosti a ste nútení hovoriť s chatbot namiesto skutočného ľudského výkonného pracovníka, ktorý môže skutočne pochopiť nuansy vášho problému a ponúknuť vhodné vedenie.
To isté platí pre osobné rozhovory. Predstavte si, že sa rozprávate so svojím priateľom a v polovici si uvedomíte, že na to používali AI odpovedať na vaše správy po celú dobu namiesto toho, aby to robili sami na základe svojich myšlienok a názory.
Ak ste ako väčšina ľudí, okamžite by ste sa cítili urazení a používanie AI v súkromnom rozhovore by ste vnímali ako necitlivý, strašidelný a dokonca pasívne agresívny, ako keby vás ten druhý nepovažoval za hodného svojho času, pozornosti a empatia.
Používanie AI napríklad na písanie e-mailov je pochopiteľné, keďže ide o profesionálnu interakciu, ale jej používanie v osobných rozhovoroch nebude niečo, čo by niekto chcel podporovať. Keď novinka v tejto technológii vybledne, bude neslušné ju v tomto kontexte používať.
3. AI nedokáže skopírovať vašu jedinečnú tonalitu
Generatívne nástroje AI už dnes umožňujú zmeniť tonalitu vašej správy, napríklad formálnu, veselú alebo neutrálnu v závislosti od toho, s kým si píšete a ako chcete naraziť. Magic Compose v Google Messagesto isté vám umožňuje napríklad .
Aj keď je to dobré, uvedomte si, že tieto tonality sú trénované na základe nastavených tréningových údajov a nie vašej osobnej histórie chatu, takže nemôžu replikovať vašu jedinečnú tonalitu alebo emotikony, ktoré by ste zvyčajne používali.
Možno vás to nezaujíma, najmä ak používate AI na písanie jednoduchých pracovných e-mailov, pre ktoré každý viac-menej používa rovnakú formálnu tonalitu. Záleží však oveľa viac, ako si možno uvedomujete, keď ho používate na rozhovory s priateľmi a rodinou v aplikácii na odosielanie správ.
Kým vám nástroje AI neumožnia trénovať ich jazykový model na základe vašej histórie rozhovorov, nebudú môcť replikovať váš jedinečný dialekt a výstrednosti. To znamená, že túto výzvu nie je také ťažké vyriešiť, takže by sme mohli čoskoro vidieť jej implementáciu.
4. Písanie dobrých výziev si vyžaduje čas
Získanie požadovaných výsledkov od chatbota AI do značnej miery závisí od kvality vašej výzvy. Ak napíšete zlú výzvu, dostanete zlú odpoveď a budete musieť výzvu spresniť, kým nedosiahnete uspokojivý výsledok.
Tento proces má zmysel, keď chcete písať dlhý obsah, ale je extrémne neefektívny pri písaní viacerých krátkych odpovedí v neformálnej konverzácii.
Čas potrebný na spresnenie výziev a získanie použiteľných odpovedí bude vo väčšine prípadov dlhší ako čas, ktorý by vám zabralo, keby ste správy písali sami.
5. AI môže priniesť urážlivé výsledky
Okrem presnosti je zaujatosť jednou z nich najväčšie problémy s generatívnou AI. Niektorí ľudia vnímajú AI ako nezaujatú, pretože nemá svoje vlastné motívy. Ľudia za týmito nástrojmi AI sú však v konečnom dôsledku ľudia s vlastnými predsudkami.
Inými slovami, zaujatosť je zapečená v systéme. Umelá inteligencia vo svojej podstate nerozumie tomu, čo sa považuje za urážlivé a čo nie, takže môže byť napr. byť zaujatý voči určitým skupinám ľudí alebo určitým kultúram, čo vedie k urážlivým výsledkom v procese.
6. AI nemusí rozumieť sarkazmu alebo humoru
Chápanie rečových útvarov, ako je irónia a metafora, AI sa postupom času zlepšuje, no stále to zďaleka nie je v bode, v ktorom by sa dalo použiť v konverzácii na rozpoznanie humoru. Keď sme napríklad požiadali Barda z Google, aby bol sarkastický, výsledky boli jednoznačné.
V niektorých prípadoch to bolo naozaj vtipné a hralo sa to spolu s mojím sarkazmom. Ale v iných prípadoch sa buď predvolene vrátila k nezábavnej odpovedi cookie-cutter alebo jednoducho odmietla zúčastniť sa konverzácie a povedať, že keďže je to len LLM, nemôže mi to pomôcť dopyt.
7. Spoliehanie sa na AI môže viesť k zlej komunikácii
Ďalším jemným, no podstatným problémom s integráciou generatívnej AI do aplikácií na odosielanie správ je to, ako môže ovplyvniť našu schopnosť komunikovať. Ak sa pri vzájomnej konverzácii stále viac spoliehame na AI, môže to brániť našej schopnosti trénujte našu emocionálnu inteligenciu a sociálne zručnosti.
Ide o to, že čím viac outsourcujeme naše sociálne potreby AI, tým horšie budeme pri komunikácii myšlienok organickými prostriedkami. Inými slovami, čím viac používate AI na rozhovory so svojimi kontaktmi, tým je pravdepodobnejšie, že zhoršíte kvalitu svojich vzťahov.
Nie všetko musí mať AI
S príchodom novej technológie sme často takí zaneprázdnení zisťovaním, ako ju použiť, že nedokážeme argumentovať, či by sme ju vôbec mali používať.
Aj keď je úplne zmysluplné používať generatívnu AI na písanie e-mailov, brainstorming nápadov alebo vytváranie obrázkov pre prezentácie, jej integrácia do aplikácií na odosielanie správ vyvoláva veľa kritiky.
