Čo je AI na zariadení a ako funguje?

Kľúčové informácie

• Umelá inteligencia na zariadení sa vzťahuje na možnosti umelej inteligencie, ktoré bežia lokálne na zariadení bez pripojenia k internetu, čím poskytujú súkromie a rýchlejšie spracovanie.
• S AI na zariadení môžu smartfóny vykonávať pôsobivé úlohy, ako je rýchle generovanie obrázkov, poskytovanie prispôsobených asistentov AI a zlepšovanie hernej grafiky a kvality zvuku.
• Spoločnosti ako Qualcomm integrujú do svojich zariadení špecializovaný hardvér na optimalizáciu AI na zariadení výkon, poskytuje pokročilé funkcie, ako sú inteligentní asistenti, preklad v reálnom čase a automatizácia úprava fotografií.

Od chatbotov až po samojazdiace autá, AI transformuje technologické prostredie. Jednou z oblastí, kde sa zavádzanie AI rýchlo zrýchľuje, sú spotrebiteľské zariadenia, ako sú smartfóny. Technologickí giganti sa pretekajú v integrácii schopností AI na zariadení do svojho najnovšieho hardvéru a softvéru.

Ale čo presne je AI na zariadení a ako funguje?

Čo je AI na zariadení a ako funguje

Dnes je väčšina spotrebiteľskej umelej inteligencie poháňaná obrovskými množinami údajov uloženými v cloude. však nahrávanie osobných údajov na servery AI nie je dobré pre súkromie. Tu prichádza na scénu AI na zariadení.

Umelá inteligencia na zariadení označuje možnosti umelej inteligencie, ktoré bežia lokálne na zariadení a nie v cloude. To znamená, že spracovanie AI prebieha priamo na vašom telefóne, tablete alebo iných zariadeniach bez pripojenia k internetu.

Takto to funguje pod kapotou: AI modely ako Stabilná difúzia, DALLE-E, Midjourney, atď., sú trénované v cloude s využitím veľkého množstva údajov a výpočtového výkonu. Tieto modely sú potom optimalizované tak, aby fungovali efektívne na cieľových zariadeniach. Optimalizované modely AI sú vložené do aplikácií a stiahnuté do zariadenia každého používateľa. Údaje aplikácie zostávajú izolované v zabezpečenej enkláve.

Keď aplikácia potrebuje vykonať úlohu, ako je rozpoznanie zvuku alebo identifikácia objektu na fotografii, spustí model AI lokálne pomocou integrovaného CPU alebo GPU zariadenia. Model AI spracováva vstupné údaje a generuje výstupnú predpoveď alebo výsledok bez toho, aby externe odosielal akékoľvek údaje.

To všetko sa deje výlučne na vašom zariadení, vďaka čomu sú vaše interakcie súkromné.

Aké výhody vám môže priniesť umelá inteligencia na zariadení

Umelá inteligencia na zariadení umožňuje pôsobivé možnosti na vašom zariadení. To zahŕňa rýchle generovanie obrázkov pomocou modelov ako Stable Diffusion, kde je možné obrázky vytvoriť v priebehu niekoľkých sekúnd, čo je bleskové. To by mohlo byť skvelé, ak chcete rýchlo vytvárať obrázky a pozadia pre svoje príspevky na sociálnych sieťach. A keďže sa spracovávajú lokálne, vaše výzvy na obrázky zostávajú súkromné.

Asistent AI môže byť napájaný aj lokálne a poskytuje prispôsobený zážitok na základe vašich údajov a preferencií, ako sú obľúbené aktivity a úrovne kondície. Dokáže porozumieť prirodzenému jazyku pre úlohy, ako je úprava fotografií a videa. Môžete napríklad povedať „odstrániť osobu vľavo“ a okamžite upraviť obrázok.

Pri fotografovaní môže AI na zariadení povoliť funkcie, ako je rozšírenie okrajov obrázkov (podobne ako Funkcia výplne Photoshopu), používanie simultánnych predných a zadných kamier na video efekty a nezávislé úpravy rôznych vrstiev.

Herná grafika môže tiež ťažiť z AI na zariadení prostredníctvom zvýšenia rozlíšenia až na 8K, zrýchlenia sledovania lúčov pre realistické osvetlenie a efektívneho zdvojnásobenia snímkovej frekvencie. Čo sa týka zvuku, umelá inteligencia na zariadení môže povoliť synchronizáciu zvuku v reálnom čase, takže váš zvuk z videí a hier sa nikdy nesynchronizuje. Umožňuje tiež krištáľovo čisté hovory a hudbu, aj keď vojdete do inej miestnosti.

Celkovo sa AI na zariadení zhoduje s tým, čo mnohí používatelia požadujú – rýchle výsledky a súkromie – keďže viac spracováva lokálne namiesto cloudu.

Umelá inteligencia na zariadení prináša rýchlejšie a súkromnejšie AI

Umelá inteligencia na zariadení je celkom úhľadná. Umožňuje našim telefónom a iným gadgetom spúšťať pokročilé algoritmy AI lokálne bez potreby pripojenia ku cloudu a bez oneskorenia.

Spoločnosti ako Qualcomm už balia svoje najnovšie čipy so špecializovaným hardvérom na efektívne prevádzkovanie neurónových sietí na našich zariadeniach. Napríklad Snapdragon 8 Gen 3 od Qualcommu podporuje až 24 GB (na smartfóne!), má integrovanú podporu pre Stable Diffusion a Llama 2 a využíva Qualcomm's AI Stack na poskytovanie jedného z najlepších súčasných výkonov AI na zariadení. čas.

Takže s každou novou generáciou smartfónov očakávajte ešte výkonnejšie možnosti AI na zariadení, ako napr inteligentní asistenti, preklad v reálnom čase, automatizovaná úprava fotografií a bleskurýchly generatívny obraz AI generácie.