aviečių pi ai rinkinys

Kaip veikia Raspberry pi ai rinkinys

Raspberry Pi AI rinkinys paverčia jūsų Pi 5 pažangia AI platforma, sujungdamas M.2 HAT su Hailo{11}}8L greitintuvo lustu. Paprastais žodžiais tariant, jis veikia perkeldamas dirbtinio intelekto skaičiavimus iš procesoriaus į tam skirtą neuroninį apdorojimo įrenginį, kuris atlieka 13 trilijonų operacijų per sekundę (13 TOPS), o sunaudoja tik 1-2 vatus esant įprastoms darbo apkrovoms (Šaltinis: theregister.com, 2024). Už 70 USD gausite aparatinės įrangos pagreitį, dėl kurio realaus laiko objektų aptikimas, pozos įvertinimas ir vaizdų klasifikavimas iš tikrųjų yra tinkamas 60 USD kainuojančiame vienos plokštės kompiuteryje.

Ši architektūra man pasirodė ypač protinga. Užuot laukę daug metų, kol Raspberry Pi sukurs integruotą NPU, jie bendradarbiavo su „Hailo“, kad sukurtų modulinį sprendimą, kuris veiktų šiandien ir rytoj lengvai atnaujinamas-AI HAT+ su 26 TOPS jau pasiekiamas tiems, kuriems reikia daugiau energijos (šaltinis: techcrunch.com, 2024).

Aparatinės įrangos architektūra: kaip jungiasi komponentai

AI rinkinį sudaro dvi fizinės dalys, kurios veikia kaip viena sistema. Pirma, turite oficialią Raspberry Pi M.2 HAT+, kuri yra plokštė, kuri pritvirtinama prie jūsų Pi 5 40-pin GPIO antraštės ir suteikia M.2 2242 arba 2280 lizdą. Antra, yra Hailo-8L AI greitintuvo modulis – maža M.2 kortelė, maždaug gumos lazdelės dydžio, įkišama į tą lizdą.

Štai kas nutinka, kai viską sujungiate:

M.2 HAT gauna energiją iš Pi 5 GPIO kaiščių ir sukuria PCIe Gen 2 arba Gen 3 ryšį per plokštės PCIe sąsają. Hailo-8L modulis gauna tiek maitinimą, tiek duomenis per vieną M.2 jungtį. Jūsų Pi 5 procesorius tvarko operacinę sistemą, programų logiką ir išankstinį apdorojimą, o Hailo lustas perima, kai reikia daryti neuroninio tinklo išvadas.

PCIe ryšio įtaka našumui

Ryšio greitis čia labai svarbus. Bandymas rodo, kad kadrų dažnis yra dvigubai didesnis, kai paleistas PCIe Gen 3, palyginti su Gen 2 tame pačiame YOLOv8s modelyje (šaltinis: forums.raspberrypi.com, 2024). „Pi 5“ palaiko PCIe Gen 3 x1, todėl jums maždaug 1 GB/s pralaidumo tarp procesoriaus ir dirbtinio intelekto greitintuvo{12}}pakanka daugeliui kompiuterinio matymo užduočių be kliūčių.

„Hailo-8L“ pasiekia 3–4 TOPS vienam vatui efektyvumą, palyginti su „Nvidia“ „Jetson Orin“ įrenginiais pagal našumą už dolerį ir našumą vienam vatui (šaltinis: jeffgeerling.com, 2024). Įvertinus Pi 5 3–4 W suvartojimą tuščiąja eiga, visa sistema sunaudoja mažiau energijos nei telefono įkroviklis, kai apdoroja AI darbo krūvius.

Hailo-8L viduje: paaiškinta neuroninio tinklo pagreitis

Hailo-8L nėra bendros paskirties Pagalvokite apie tai kaip apie grafikos plokštę, tačiau vietoj trikampių atvaizdavimo ji yra optimizuota matricos dauginimui ir konvoliucijoms, kurios maitina AI modelius.

Lustas naudoja patentuotą architektūrą, kurią Hailo vadina „struktūrizuota ASIC“. Per daug nesigilinant į silicio dizainą, tai reiškia, kad lustas turi specialius aparatūros blokus įvairioms neuroninio tinklo operacijoms: konvoliuciniai sluoksniai, aktyvinimo funkcijos, telkimo operacijos ir visiškai sujungti sluoksniai turi savo optimizuotus vykdymo kelius.

Kaip išvados iš tikrųjų vyksta

Kai paleidžiate modelį, pvz., YOLOv8, norėdami aptikti objektą, štai tokia supaprastinta darbo eiga:

Jūsų fotoaparatas užfiksuoja kadrus ir siunčia juos į Pi CPU. Centrinis procesorius atlieka išankstinį vaizdo apdorojimą{1}}pakeičiant dydį pagal modelio įvesties matmenis, konvertuoja spalvų erdves, normalizuoja pikselių reikšmes. Šie iš anksto apdoroti duomenys per PCIe magistralę siunčiami į Hailo-8L. Greitintuvas valdo neuroninį tinklą, išvesdamas neapdorotus aptikimo rezultatus (ribojančius langelius, patikimumo balus, klasės prognozes). Centrinis procesorius gauna šiuos rezultatus ir tvarko po-apdorojimo-ne maksimalaus slopinimo, kad pašalintų pasikartojančius aptikimus, piešia langelius ant vaizdo ir atnaujina programos vartotojo sąsają.

Šio darbo pasidalijimo grožis atsispindi etalonuose. Bandymai rodo, kad dirbtinio intelekto rinkinys aptinka ranką ir orientyrus 26{2}}28 kadrų per sekundę greičiu iki 5,8 karto greičiau, nei naudojant „TensorFlow Lite“ modelius vien tik naudojant „Pi 5“ centrinį procesorių (Šaltinis: raspberrypi.com, 2024).

Palaikomi modelių formatai

„Hailo-8L“ tiesiogiai neveikia standartinių „TensorFlow“ ar „PyTorch“ modelių. Turite konvertuoti modelius naudodami Hailo duomenų srauto kompiliatorių, kuris optimizuoja juos pagal lusto architektūrą. Kompiliavimo procesas paima jūsų apmokytą modelį (paprastai ONNX formatą) ir susieja jį su Hailo aparatine įranga, taikant kvantavimą ir kitus optimizavimus.

Iš anksto-sukompiliuotus įprastų architektūrų modelius galima rasti „Hailo Model Zoo“: „ResNet-50“ veikia 500 FPS, YOLOv5, YOLOv8 variantai yra įvairių dydžių, „MobileNet“ lengvam klasifikavimui ir pozos įvertinimo modeliai. Jei dirbate su pasirinktiniais modeliais, kompiliavimo darbo eigai reikia šiek tiek pasimokyti, tačiau ji vadovaujasi standartine AI diegimo praktika.

Energijos suvartojimas ir šilumos valdymas

Viena įspūdingiausių AI rinkinio specifikacijų yra energijos vartojimo efektyvumas. „Hailo-8L“ paprastai sunaudoja 1–2 vatus aktyvios išvados metu, o didžiausias maksimumas yra apie 5 vatus, atsižvelgiant į modelio sudėtingumą ir kadrų dažnį (Šaltinis: theregister.com, 2024). Kartu su baziniu „Pi 5“ suvartojimu, jūs žiūrite į maždaug 5–9 vatus bendra sistemos galia esant AI darbo krūviams.

M.2 modulyje yra nedidelis radiatorius, o normaliai veikiant pasyvaus aušinimo pakanka. Pastebėjau, kad lustas išlieka pakankamai vėsus, todėl terminis droselis nekelia rūpesčių įprastoms kompiuterinio regėjimo programoms. Uždarųjų projektų ar nuolatinės didelės apkrovos{3}}scenarijų atveju prie Pi 5 korpuso pridėjus ventiliatorių, CPU ir AI greitintuvas palaiko didžiausią našumą.

Palyginus tai su alternatyvomis, paaiškėja vertės pasiūlymas: „Nvidia Jetson Orin Nano“ kainuoja apie 249 USD ir sunaudoja 7–15 W esant apkrovai. „Google“ „Coral USB“ greitintuvas kainuoja 60 USD, tačiau suteikia tik 4 TOPS ir reikalauja USB 3.0 pralaidumo. „Intel Neural Compute Stick 2“ nebegaunama. Dirbtinio intelekto rinkinio kaina, našumas ir energijos vartojimo efektyvumas yra toks, koks nebuvo iki 2024 m.

Programinės įrangos krūva: nuo OS iki programos

AI rinkiniui reikalinga Raspberry Pi OS (64-bit) Bookworm arba naujesnė. „Hailo“ teikia programinės įrangos rinkinį, apimantį branduolio tvarkykles, skirtas PCIe ryšiui, vykdymo bibliotekas, kurios valdo modelio įkėlimą ir išvadas, „Python“ sąsajas, kad būtų lengva integruoti, ir rpicam{3}}programų integravimą, skirtą kameros projektams.

Pirmojo modelio nustatymas

Diegimas užtrunka apie 15 minučių, jei laikotės oficialaus vadovo. Paleidę OS ir prijungę aparatinę įrangą, paleidžiate Hailo diegimo scenarijų, kuris prideda reikiamus branduolio modulius ir bibliotekas. Programų paketas rpicam{3}} atnaujinamas, įtraukiant „Hailo“ palaikymą, leidžiantį paleisti dirbtinio intelekto modelius tiesiai iš fotoaparato vamzdyno.

Bandymas su įtrauktomis demonstracinėmis versijomis rodo, kad sistema veikia:

rpicam-labas, --post-process-file /usr/share/rpicam-assets/hailo_yolov8_pose.json

Ši komanda fiksuoja fotoaparato kadrus, paleidžia juos per pozos įvertinimo modelį „Hailo“ luste ir rodo rezultatus realiuoju{0}}laiku. Kadrų dažnis priklauso nuo modelio sudėtingumo-lengvesni modeliai, tokie kaip YOLOv8n, pasiekia 60+ FPS, o sunkesnės versijos, pvz., YOLOv8m, gali veikti 20–30 FPS.

„Python“ kūrimo darbo eiga atrodo kaip standartiniai „OpenCV“ ir „Hailo“{0}}konkretūs iškvietimai:

Jūs importuojate HailoRT biblioteką, įkeliate savo sukompiliuotą modelio failą, pateikiate iš anksto apdorotus kadrus į modelį, nuskaitote išvadų rezultatus ir apdorojate išvestis savo programos logikoje. API apibendrina didžiausią sudėtingumą, nors norint suprasti įvesties / išvesties tenzoriaus formatus, reikia perskaityti modelio dokumentus.

Realaus{0}}pasaulio taikymo pavyzdžiai

Keli projektai demonstruoja praktinį AI rinkinio įgyvendinimą. Mažmeninės prekybos atsargų valdymo sistema naudoja AI rinkinį, kuriame veikia YOLOv8n, kad aptiktų produktus lentynose, o procesoriaus „EfficientNet“ stebi įsilaužimus į sandėlį (šaltinis: forums.raspberrypi.com, 2024). Dviejų{6}}modelių metodas parodo, kaip prireikus galite derinti pagreitintą išvadą su CPU{7}}pagrįstais modeliais.

Saugos programos naudojasi rinkinio{0}}realaus laiko galimybėmis. Veido atpažinimo sistemos apdoroja vaizdo srautus 25–30 kadrų per sekundę greičiu, o tai leidžia valdyti įėjimą arba registruoti lankytojus be debesų priklausomybės. Pozos įvertinimas veikia pakankamai greitai treniruočių programoms, kurios seka pratimų formą arba skaičiuoja pakartojimus.

Laukinės gamtos stebėjimo projektai panaudoja mažai energijos suvartojančias -saulės{1}}saulės energija varomų kamerų gaudyklių pozas ir objektų aptikimą, kad būtų galima atpažinti gyvūnus ir jų elgseną nekeičiant baterijos. „Pi“ universalumo ir aparatinės įrangos{3}}pagreitinto AI derinys leidžia įgyvendinti anksčiau nepraktiškus kraštus.

[Pasiūlymas vaizdiniam elementui: įterpkite diagramą, rodančią duomenų srautą iš fotoaparato → Pi CPU (išankstinis apdorojimas) → PCIe → Hailo-8L (išvada) → Pi CPU (rezultatai) → Ekranas / saugykla]

Apribojimai ir kada nenaudoti AI rinkinio

Rinkinys puikiai tinka išvadoms, bet nepadės lavinant modelius,{0}}kuriam vis tiek reikia debesies GPU arba darbo stočių. 13 TOPS gali atrodyti įspūdingai, tačiau tai niekur neprilygsta duomenų centro aparatūrai. Sudėtingi modeliai arba keli išvadų srautai vienu metu gali užgožti greitintuvą.

Modelio suderinamumas reikalauja dėmesio. Esate užrakintas architektūrose, kurias palaiko Hailo kompiliatorius. Pažangiausi-modeliai iš mokslinių tyrimų gali neveikti, kol „Hailo“ nepridės palaikymo arba neskirsite laiko tinkintam kompiliavimui. „Model Zoo“ apima dažniausiai naudojamus atvejus, tačiau specializuotoms programoms gali prireikti sprendimų.

Kai kurioms programoms svarbi delsa. Nors Hailo-8L yra greitas, duomenų siuntimo per PCIe, išvadų vykdymo ir rezultatų grąžinimo laikas, palyginti su integruotais NPU, prideda kelias milisekundes. Robotams arba realiojo laiko valdymo sistemoms, kur svarbi kiekviena milisekundė, šis dujotiekio delsimas gali būti reikšmingas.

Biudžeto apribojimai turi įtakos pasiūlymui dėl vertės. Jei jau turite „Pi 5“, 70 USD vertės dirbtinio intelekto rinkinys yra nieko gero. Jei pradedate nuo nulio, visai sistemai (Pi 5 + AI rinkiniui + maitinimo šaltiniui + saugyklai) išleidžiate 130+ USD, tada Jetson Nano konkurentai pradeda atrodyti konkurencingi, atsižvelgdami į jūsų našumo poreikius.

Aparatinės įrangos specifikacijų palyginimas

AI HAT+ variantai siūlo geresnį suderinamumą su Pi 5 korpusu ir patobulintą mechaninį dizainą, tačiau 13 TOPS lygyje užtikrina identišką originalaus rinkinio našumą (šaltinis: electronicsweekly.com, 2025). 26 TOPS versija dvigubai padidina programų, kurioms reikia apdoroti didesnės skiriamosios gebos įvestis arba paleisti sudėtingesnius modelius, pralaidumą.

Įprastos sąrankos problemos ir sprendimai

Įdiegus dirbtinio intelekto rinkinys neaptinkamas

Paprastai tai rodo PCIe surašymo problemą. Patikrinkite, ar įjungėte PCIe Pi config.txt faile ir ar M.2 HAT tvirtai pritvirtintas prie visų GPIO kaiščių. Vykdant lspci turėtų būti rodomas Hailo įrenginys, jei ryšys veikia.

Modeliai veikia lėčiau nei tikėtasi

Įsitikinkite, kad iš tikrųjų naudojate Hailo greitintuvą ir negrįžtate prie procesoriaus išvadų. Patikrinkite, ar žurnaluose nėra klaidų modelio įkėlimo metu. Įsitikinkite, kad modelis tinkamai sukompiliuotas Hailo architektūrai,{2}}bandant paleisti nekonvertuotus modelius nepavyks arba bus nustatytas CPU vykdymas.

Sistema sugenda esant apkrovai

Maitinimo problemos sukelia daugumą stabilumo problemų. Pi 5 reikia mažiausiai 5 V / 5 A (27 W), o AI rinkinys papildo šį reikalavimą. Naudokite oficialų Raspberry Pi 27W maitinimo šaltinį arba lygiavertį. Dėl nepakankamos galios nukrenta įtampa, dėl kurios sistema sugenda piko nustatymo metu.

Kameros integravimas neveikia

Rpicam{0}}programoms Hailo integruoti reikalingos konkrečios rpicam versijos. Atnaujinkite viską naudodami „sudo apt update“ ir „sudo apt upgrade“, prieš pradėdami toliau šalinti triktis. Kai kuriems fotoaparato moduliams reikia pakeisti konfigūraciją faile /boot/config.txt, kad jie optimaliai veiktų su AI dujotiekiu.

Ateities{0}}Investicijos įrodymas

Modulinis dizainas reiškia, kad galite atnaujinti savarankiškai. Šiuo metu galite paleisti 70 USD vertės AI rinkinį su 13 TOPS. Kitais metais, jei jūsų programai reikia didesnio našumo, iškeiskite 26 TOPS AI HAT+ į 110 USD nekeisdami Pi 5. Programinės įrangos paketas išlieka suderinamas su Hailo-8L ir Hailo-8 lustais.

Hailo toliau plečia savo modelių zoologijos sodą ir tobulina kompiliatoriaus palaikymą. Modeliai, kuriuos 2024 m. birželio mėn. reikėjo optimizuoti rankiniu būdu, dabar turi iš anksto-sukompiliuotas versijas. Ši tendencija spartėja platformai bręstant. Pi-pagrįstų AI projektų ekosistema sparčiai plečiasi-forumai, mokymo programos ir trečiųjų-šalių įrankiai palengvina diegimą kiekvieną mėnesį.

Programinės įrangos atnaujinimai taip pat pagerina našumą. Ankstyvieji etalonai parodė, kad tam tikri modeliai veikė X FPS; optimizuotos tvarkyklės ir programinės aparatinės įrangos atnaujinimai padidino šiuos skaičius 10–20 % be aparatinės įrangos pakeitimų. Stebėdami OS ir „Hailo“ paketo atnaujinimus padidinsite rinkinio galimybes.

Dažnai užduodami klausimai

Ar Raspberry Pi AI rinkinys veikia su senesniais Pi modeliais?

Ne, dirbtinio intelekto rinkiniui reikalingas Raspberry Pi 5. PCIe ryšys yra būtinas didelio{1}}pralaidumo ryšiui tarp procesoriaus ir greitintuvo. Ankstesniuose Pi modeliuose trūksta PCIe palaikymo, todėl jie nesuderinami su šia architektūra.

Ar galiu vienu metu paleisti kelis AI modelius?

Taip, bet našumas priklauso nuo modelio sudėtingumo ir kadrų dažnio. „Hailo-8L“ gali laiku-perskirstyti tarp modelių, tačiau vienu metu veikiant sunkiems modeliams sumažės atskirų kadrų dažnis. Praktiniuose projektuose dažnai lygiagrečiai veikia vienas pagreitintas modelis ir vienas ar keli CPU modeliai.

Kiek laiko trunka modelio sudarymas?

Paprasti modeliai tinkamame nešiojamajame kompiuteryje sukomponuojami per 5-15 minučių. Sudėtingi modeliai su daugybe sluoksnių gali užtrukti 30–60 minučių. Kiekvienam modeliui kompiliuojate tik vieną kartą, tada sukompiliuotą .hef failą įdiekite į savo Pi. Iš anksto sudarytus modelius iš zoologijos sodo nereikia rinkti.

Ar AI rinkinys veikia be interneto ryšio?

absoliučiai. Įdiegę programinę įrangą ir sukompiliavus modelius, viskas veiks vietoje. Dėl to rinkinys idealiai tinka privatumui-jautrioms programoms, nuotoliniam diegimui arba visur, kur prieiga prie tinklo yra nepatikima arba nepasiekiama.

Ar galiu treniruoti modelius tiesiogiai naudojant AI rinkinį?

Ne, „Hailo-8L“ yra aparatinė įranga, skirta tik išvadoms. Mokymui reikalingas skirtingas aparatinės įrangos optimizavimas ir žymiai daugiau galios. Įprasta darbo eiga apima mokymą debesies GPU arba darbo stotyse naudojant „PyTorch“ / „TensorFlow“, konvertavimą į ONNX formatą, kompiliavimą naudojant „Hailo“ įrankius, tada sukompiliuoto modelio diegimą jūsų Pi.

Kuo AI rinkinys skiriasi nuo AI HAT+?

Originalus AI rinkinys sujungia M.2 HAT su Hailo-8L moduliu už 70 USD. AI HAT+ yra persvarstyta plokštė su geresniu dėklu suderinamumu, kurią galima įsigyti su 13 TOPS Hailo-8L (70 USD) arba 26 TOPS Hailo-8 (110 USD). Našumas yra identiškas 13 TOPS pakopoje; pasirinkite pagal prieinamumą ir tai, ar jums reikia patobulinto fizinio dizaino.

Kaip AI rinkinys tvarko skirtingas vaizdo raiškas?

Greitintuvas apdoroja bet kokią skiriamąją gebą, kuri buvo išmokyta naudoti jūsų modelį, -paprastai 640 x 640 ar panašią objektų aptikimą. Jūsų CPU keičia kameros įvesties dydį, kad atitiktų numatomus modelio matmenis. Didesnė įvesties skyra reikalauja daugiau išankstinio apdorojimo laiko, tačiau ji neturi tiesioginės įtakos Hailo išvados greičiui, nes modelio įvesties dydis išlieka pastovus.

Ar Hailo-8L suderinamas su TensorFlow Lite modeliais?

Ne tiesiogiai. Turite konvertuoti TensorFlow Lite modelius į ONNX formatą, tada sukompiliuoti juos naudodami Hailo duomenų srauto kompiliatorių. Palaikoma daug įprastų TensorFlow Lite architektūrų, tačiau konvertavimo procesą gali reikėti koreguoti, atsižvelgiant į modelio sudėtingumą ir naudojamas operacijas.

Žengdami pirmuosius žingsnius

Pradėkite nuo iš anksto{0}}sudarytų demonstracinių versijų, kad suprastumėte našumo charakteristikas prieš pasinerdami į tinkintus modelius. Objektų aptikimo ir pozos įvertinimo pavyzdžiai parodo rinkinio galimybes nereikalaujant modelio sudarymo žinių. Kai būsite patenkinti aparatine įranga, eksperimentuokite su skirtingais modeliais iš Hailo Model Zoo, kad rastumėte pusiausvyrą tarp tikslumo ir greičio savo programoje.

Raspberry Pi AI rinkinys reiškia reikšmingą AI prieinamumo kraštų pokytį. Pirmą kartą mėgėjai ir nedidelio masto kūrėjai{1}}gali įdiegti sudėtingas kompiuterinės vizijos sistemas, kurių veikimas anksčiau reikalavo brangios aparatinės įrangos arba priklausomybės nuo debesies. Raspberry Pi ekosistemos ir veiksmingo Hailo greitintuvo derinys sukuria galimybes, kurių iki 2024 m. nebuvo 100 USD kategorijoje.

Nesvarbu, ar kuriate išmaniąją apsaugos kamerą, pramoninės patikros sistemą, ar eksperimentuojate su dirbtiniu intelektu pačiame pakraštyje, AI rinkinys suteikia skaičiavimo arklio galių, kad šie projektai būtų gyvybingi. Architektūra pasitvirtino, programinė įranga sparčiai bręsta, o bendruomenė aktyviai kuria sprendimus, iš kurių galite mokytis ir pritaikyti.