Što je TensorFlow Lite i kako je to okvir za duboko učenje?

Možda ste naišli na TensorFlow Lite dok ste prolazili kroz razvojne ploče Edge AI ili projekte ubrzavanja AI.

TensorFlow Lite je okvir softverskih paketa koji omogućuje lokalnu obuku na hardveru. Ova obrada i računarstvo na uređaju omogućavaju programerima pokretanje svojih modela na ciljanom hardveru. Hardver uključuje razvojne ploče, hardverske module, ugrađene i IoT uređaje.

Pregled okvira TensorFlow Lite

TensorFlow je popularan pojam u dubokom učenju, jer mnogi programeri ML-a koriste ovaj okvir za različite slučajeve upotrebe. Pruža jednostavnost provedbe modeli strojnog učenja i zaključci za AI aplikacije.

Ali TensorFlow Lite temelj je dubokog učenja za lokalno zaključivanje, posebno za loš računarski hardver. Omogućuje strojno učenje na uređaju pomažući programerima u pokretanju njihovih modela na kompatibilnom hardveru i IoT uređajima.

Programer mora odabrati prikladni model, ovisno o slučaju upotrebe. Okvir također daje mogućnost prekvalifikacije postojećeg modela na prilagođenom skupu podataka. Kako TensorFlowov protokolarni model međuspremnika dolazi s velikom veličinom i zahtijeva naprednu računsku snagu, tako omogućava pretvorbu TensorFlow modela u TensorFlow Lite model.

Prilagođavanje parametara za optimizaciju i kvantiziranje omogućuje smanjenje veličine i latencije modela.

Osim prednosti kašnjenja i veličine TensorFlow Lite-a, okvir pruža sigurnost podataka jer se obuka odvija lokalno na uređaju. Uz to, nije potrebna internetska povezanost. Dakle, postavljanje aplikacija nije ograničeno na određena područja s povezivanjem.

Ti čimbenici u konačnici smanjuju opterećenje potrošnje energije na uređaju uklanjanjem faktora povezanosti i povećanjem učinkovitosti zaključaka dubokog učenja.

Modeli okvira TensorFlow Lite postoje u formatu više platformi koji je poznat kao FlatBuffers. To je knjižnica za serializaciju koja hijerarhijske podatke pohranjuje u ravni binarni međuspremnik, tako da je moguć izravni pristup bez raspakiranja. Također možete primijetiti proširenje ".tflite" za modele TensorFlow Lite. Ova tehnika predstavljanja omogućuje optimizacije u proračunima i smanjuje potrebe za memorijom. Dakle, čineći ga mnogo boljim od modela TensorFlow

TinyML na TensorFlow Lite Micro

Budući da je TensorFlow Lite kompatibilan s raznim platformama za Edge AI aplikacije, bila je potrebna daljnja konvergencija knjižnice. Stoga je organizacija smislila podskup knjižnice TensorFlow Lite, poznate kao TensorFlow Lite Micro. TensorFlow Lite Micro posebno lokalno pokreće modele strojnog učenja na mikrokontrolerima s minimalnim zahtjevima memorije od oko nekoliko kilobajta.

Osnovno vrijeme izvođenja postupka integrira se sa 16 KB na Arm Cortex M3 i može raditi na različitim modelima. Okvir ne zahtijeva dodatnu podršku za OS ili druge jezične knjižnice na visokoj razini kao ovisnosti za pokretanje zaključka na uređaju.

Razvoj TensorFlow Lite Micro korijena je na C ++ 11, kojem je za kompatibilnost potrebna 32-bitna arhitektura. Govoreći više o arhitekturama, knjižnica izvrsno radi na robusnom nizu procesora zasnovanih na Arm Cortex-M Series arhitekturi s drugim dizajnerske arhitekture poput ESP32.

Tok rada za slučajeve mikro upotrebe TensorFlow Lite

Proces obuke neuronske mreže zahtijeva visok računalni hardver. Dakle, vježba se na općem Model TensorFlow. Međutim, obuka je potrebna samo ako prilagođeni skup podataka odgovara modelu dubokog učenja, dok se unaprijed obučeni modeli na okviru mogu također koristiti za aplikacije.

Pretpostavljajući prilagođeni slučaj upotrebe sa skupom podataka specifičnih za aplikaciju, korisnik trenira model na općenitom okviru TensorFlow s velikim procesorskim kapacitetom i arhitekturom. Nakon završetka treninga, evaluacija modela pomoću tehnika ispitivanja provjerava točnost i pouzdanost modela. Dalje, postupak slijedi pretvaranjem modela TensorFlow u hardverski kompatibilni model TensorFlow Lite u .tflite formatu.

.Tflite format je datoteka ravnog međuspremnika zajednička za okvir TensorFlow Lite i kompatibilni hardver. Model se dalje može koristiti za trening zaključivanja o podacima dobivenim na modelu u stvarnom vremenu. Trening zaključivanja optimizirao je modele za robusne slučajeve uporabe. Stoga je opcija zaključivanja presudna za prednost AI aplikacije.

Većina firmware-a mikrokontrolera ne podržava izvorni datotečni sustav za izravno ugrađivanje formata ravnog međuspremnika modela TensorFlow Lite. Stoga je pretvorba .tflite datoteke potrebna u format strukture niza, koji je kompatibilan s mikrokontrolerima.

Uključivanje programa u C niz nakon čega slijedi normalna kompilacija jednostavna je tehnika za takvu pretvorbu. Rezultirajući format djeluje kao izvorna datoteka i sastoji se od niza znakova kompatibilnih s mikrokontrolerima.

Uređaji koji podržavaju TensorFlow Lite Micro

TensorFlow Lite prikladan je za moćne uređaje, ali dolazi s nedostatkom većeg radnog opterećenja na procesoru. Iako TensorFlow Lite Micro ima datoteke male veličine sklone nedovoljnoj opremi, optimiziranjem veličine datoteke stane u memoriju može značajno poboljšati izlaz za hardver male snage i obrade kao što je mikrokontroleri.

Evo popisa razvojnih ploča iz službene TensorFlow dokumentacije koja podržava TensorFlow Lite Micro:

• Arduino Nano 33 BLE Sense
• SparkFun Edge
• STM32F746 Komplet za otkrivanje
• Adafruit EdgeBadge
• Adafruit TensorFlow Lite za mikrokontrolere
• Igralište Adafruit Circuit Bluefruit
• Espressif ESP32-DevKitC
• Espressif ESP-EYE
• Terminal Wio: ATSAMD51
• Himax WE-I Plus EVB krajnja točka AI razvojna ploča

TensorFlow Lite Micro dostupan je i kao Arduino biblioteka za proširenu podršku za mikrokontrolere. Također može graditi projekte za okruženja za razvoj hardvera slična Mbedu.

TensorFlow Lite nudi puno

Okvir za duboko učenje TensorFlow Lite otvara mogućnosti brojnim vrhunskim AI aplikacijama. Kako je okvir otvoren za zaljubljenike u AI, podrška zajednice čini ga još popularnijim za slučajeve upotrebe strojnog učenja. Ukupna platforma TensorFlow Lite poboljšava okruženje za rast rubnih aplikacija za ugrađene i IoT uređaje

Pored toga, postoje razni primjeri za početnike koji će im pomoći u praktičnim slučajevima upotrebe na okviru. Neki od ovih primjera uključuju otkrivanje osoba ovisno o podacima prikupljenim pomoću senzora slike razvojne ploče i standardnog programa hello world za sve razvojne ploče. Primjeri također uključuju aplikacije poput otkrivanja gesta i prepoznavanja govora za određene razvojne ploče.

Za više informacija o TensorFlow Lite i TensorFlow Lite Micro, možete posjetiti službenu stranicu dokumentacije organizacije. Postoji puno konceptualnih kao i tutorial dijelova za bolje razumijevanje okvira.

Započnite s prepoznavanjem slika pomoću TensorFlow-a i Raspberry Pi-a

Želite li se upoznati s prepoznavanjem slika? Zahvaljujući Tensorflowu i Raspberry Pi-u možete odmah započeti.

Pročitajte Dalje

O autoru