Što je AI na uređaju i kako radi?

Ključni zahvati

• AI na uređaju odnosi se na mogućnosti umjetne inteligencije koje rade lokalno na uređaju bez povezivanja s internetom, pružajući privatnost i bržu obradu.
• Uz AI na uređaju, pametni telefoni mogu obavljati impresivne zadatke, poput brzog generiranja slika, pružanja personaliziranih AI pomoćnika i poboljšanja grafike i kvalitete zvuka u igricama.
• Tvrtke poput Qualcomma integriraju specijalizirani hardver u svoje uređaje kako bi optimizirali AI na uređaju performanse, isporučujući napredne mogućnosti kao što su inteligentni pomoćnici, prijevod u stvarnom vremenu i automatizirani uređivanje fotografija.

Od chatbota do samovozećih automobila, umjetna inteligencija mijenja tehnološki krajolik. Jedno područje u kojem se usvajanje umjetne inteligencije ubrzano ubrzava su potrošački uređaji poput pametnih telefona. Tehnički divovi se utrkuju u integraciji AI mogućnosti na uređaju u svoj najnoviji hardver i softver.

Ali što je točno AI na uređaju i kako funkcionira?

Što je AI na uređaju i kako radi

Danas većinu potrošačke umjetne inteligencije pokreću ogromni skupovi podataka pohranjeni u oblaku. Međutim, učitavanje osobnih podataka na AI poslužitelje nije dobro za privatnost. Tu dolazi AI na uređaju.

AI na uređaju odnosi se na mogućnosti umjetne inteligencije koje rade lokalno na uređaju, a ne u oblaku. To znači da se AI obrada odvija izravno na vašem telefonu, tabletu ili drugim uređajima bez povezivanja na internet.

Evo kako to funkcionira ispod haube: AI modeli poput Stabilna difuzija, DALLE-E, Midjourney, itd., obučeni su u oblaku koristeći mnogo podataka i računalne snage. Ti se modeli zatim optimiziraju za učinkovit rad na ciljanim uređajima. Optimizirani AI modeli ugrađeni su u aplikacije i preuzeti na uređaj svakog korisnika. Podaci aplikacije ostaju izolirani u sigurnoj enklavi.

Kada aplikacija treba izvršiti zadatak kao što je prepoznavanje zvuka ili identificiranje objekta na fotografiji, ona pokreće AI model lokalno pomoću ugrađenog CPU-a ili GPU-a uređaja. AI model obrađuje ulazne podatke i generira izlazno predviđanje ili rezultat bez slanja ikakvih podataka van.

Sve se to u potpunosti događa na vašem uređaju, čime vaše interakcije ostaju privatne.

Kako vam AI na uređaju može koristiti

AI na uređaju omogućuje impresivne mogućnosti na vašem uređaju. To uključuje brzo generiranje slike korištenjem modela kao što je Stable Diffusion, gdje se slike mogu stvoriti u sekundi, što je munjevito brzo. Ovo bi moglo biti sjajno ako želite brzo izraditi slike i pozadine za svoje objave na društvenim mrežama. A budući da se obrađuje lokalno, vaši slikovni upiti ostaju privatni.

AI pomoćnik također se može napajati lokalno, pružajući personalizirano iskustvo na temelju vaših podataka i preferencija, kao što su omiljene aktivnosti i razine kondicije. Može razumjeti prirodni jezik za zadatke poput uređivanja fotografija i videa. Na primjer, možda ćete moći reći "ukloni osobu s lijeve strane" da odmah uredite sliku.

Za fotografiju, AI na uređaju može omogućiti značajke poput proširenja obruba slike (slično Photoshopova značajka popunjavanja), koristeći istovremenu prednju i stražnju kameru za video efekte i neovisno uređivanje različitih slojeva.

Igraća grafika također može imati koristi od AI-ja na uređaju kroz povećanje rezolucije do 8K, ubrzanje praćenja zraka za realistično osvjetljenje i učinkovito udvostručenje broja sličica u sekundi. Što se tiče zvuka, umjetna inteligencija na uređaju može omogućiti sinkronizaciju zvuka u stvarnom vremenu tako da vaš zvuk iz videozapisa i igara nikada ne nestane sinkroniziran. Također omogućuje kristalno čiste pozive i glazbu čak i ako uđete u drugu sobu.

Općenito, umjetna inteligencija na uređaju usklađena je s onim što mnogi korisnici žele – brze rezultate i privatnost – budući da zadržava više obrade lokalno umjesto u oblaku.

AI na uređaju donosi brže i više privatnih AI iskustava

AI na uređaju je prilično uredan. Omogućuje našim telefonima i drugim napravama lokalno pokretanje naprednih AI algoritama bez potrebe za povezivanjem s oblakom i bez kašnjenja.

Tvrtke poput Qualcomma već pakiraju svoje najnovije čipove sa specijaliziranim hardverom za učinkovito pokretanje neuronskih mreža na našim uređajima. Na primjer, Qualcommov Snapdragon 8 Gen 3 podržava do 24 GB (na pametnom telefonu!), ima integriranu podršku za Stable Diffusion i Llama 2, te koristi Qualcommov AI Stack za isporuku najboljih AI performansi na uređaju u ovom trenutku vrijeme.

Dakle, sa svakom novom generacijom pametnih telefona, očekujte vidjeti još moćnije AI mogućnosti na uređaju za stvari kao što su inteligentni pomoćnici, prijevod u stvarnom vremenu, automatizirano uređivanje fotografija i munjevito brza generativna AI slika generacija.