NVIDIA Jetson: arhitektuur, töö ja selle rakendused

Maailma juhtiv platvorm nagu NVIDIA Jetson on manustatud arvutiplaatide jada, mida kasutatakse peamiselt autonoomsetes masinates ja muudes manustatud rakendused . See plaat sisaldab peamiselt Jetsoni mooduleid, mis on suure jõudlusega arvutid. Jetson sobib hästi sarnase AI-tarkvara ja pilvepõhise töövooga, mida kasutatakse teistel NVIDIA platvormidel, ning pakub klientidele energiatõhusat jõudlust tarkvarapõhiste autonoomsete masinate ehitamiseks. NVIDIA Jetsonit kasutatakse arvutinägemisrakenduste jaoks. Niisiis, selles artiklis käsitletakse NVIDIA Jetsoni töö ja selle rakenduste ülevaadet.

Mis on NVIDIA Jetson?

NVIDIA Jetson on arenenud manustamissüsteem tahvel, mida kasutatakse uuenduslike AI-toodete loomiseks mitmes tööstusharus. NVIDIA Jetson on üks juhtivaid riistvaraplatvorme, mis on väga kasulik tehnikahuvilistele ja ka õpilastele, et saada praktilisi kogemusi mitmesuguste uuenduslike AI-projektide kaudu. See plaat on AI jaoks väga tõhus plaat, mis sisaldab modulaarseid, väikese kujuga ja suure jõudlusega äärearvuteid. Lisaks sisaldab see tahvel ka tarkvara kiirendamiseks kasutatavat JetPack SDK-d ja terviklikku ökosüsteemi, mis aitab kohandatud AI-projektide arendusprotseduuri suurendada.

NVIDIA Jetsoni arhitektuur

Teame, et Nvidia Nvidia Jetsoni moodul on manustatud arvutiplaatide jada. Kõik Jetson TX1, TX2 ja TK1 mudelid kannavad Nvidia SoC- või Tegra-protsessorit, mis sisaldab ARM-arhitektuuri CPU-d. Siin on Jetson vähese energiatarbega süsteem, mis on mõeldud peamiselt masinõppe rakenduste kiirendamiseks.

NVIDIA Jetson Xavier NX arhitektuur on näidatud allpool. See on kõige arenenum ja väiksem tehisintellekti superarvuti, mida kasutatakse nii äärearvutusseadmete jaoks kui ka autonoomne robootika . See moodul on võimeline juurutama serveriklassi jõudlust kindla 70x45 mm vormiteguriga ja pakub ka kuni 21 TOPSi arvutusi alla 15 W võimsusega, muidu kuni 14 TOPSi arvutusi alla 10 W võimsusega.

Ülaltoodud diagramm sisaldab integreeritud 384-tuumalist NVIDIA Voltat GPU sealhulgas 6-tuumaline NVIDIA Carmel ARMv8.2 64-bitine protsessor, 48 tensorituuma, 8 GB 128-bitine LPDDR4x, 4K videokooderid ja dekoodrid, kaks NVDLA (NVIDIA Deep Learning Accelerator) mootorit, kaamera kuni kuue hetkelise suure eraldusvõimega andurite vood, kahe kuvapordi või HDMI 4K kuvarid, PCIe 3. põlvkonna laiendus, USB 3.1 ja GPIO-d koos I2C, SPI, I2S, UART ja CAN siiniga.

NVIDIA Jetsoni spetsifikatsioonid hõlmavad järgmist.

• Võimsus on 10W või 15W režiimid ja 5V sisend.
• Protsessor on 6-tuumaline NVIDIA Carmel 64-bitine ARMv 8.2 sagedusel 1400 MHz.
• GPU on 384-tuumaline NVIDIA Volta sagedusel 1100 MHz kuni 48 tensorituuma.
• DL on kahekordne NVDLA mootor.
• Mälu on 8 GB 128-bitine LPDDR4x sagedusel 1600 MHz.
• 16 GB eMMC 5.1 salvestusruumi.
• Kaameral on 12x MIPI CSI-2 rada | 3×4 või 6×2 kaamerad.
• Kuni 6 kaamerat (36 virtuaalsete kanalite kaudu).
• Soojustemperatuur -25°C kuni 90°C.
• Ekraan on DP 1.4 või eDP 1.4 või HDMI 2.0 a/b eraldusvõimega 4Kp60.
• Ethernet on 10 või 100 või 1000 BASE-T Ethernet.
• USB 3.1 ja USB 2.0.

Seda moodulit toetab kogu CUDA-X tarkvarapakett NVIDIA ja ka JetPack SDK tehisintellekti arendamiseks. See käitab väga populaarseid masinõppe raamistikke ja keerulisi DNN-e korraga mitmes kõrge eraldusvõimega andurivoos, lisaks reaalajas arvutinägemis-, graafika- ja multimeediumirakendustele täielikus töölaua Linuxi keskkonnas.

Praegu hakkasid arendajad Jetson Xavier NX-ile tehisintellekti rakendusi kavandama Jetson AGX Xavier Developer Kit abil. Seadme mustri plaastri rakendamine JetPacki lähedal muudab seadme Jetson Xavier NX-i. See muudab tarkvara kaudu saadavate GPU- ja CPU-tuumade arvu ning määrab süsteemis nii taktsagedused kui ka tuumade pinged.

Plaaster on täielikult pööratav, mida kasutatakse Jetson Xavier NX jõudluse ligikaudseks hindamiseks. See moodul klassifitseerib vaikevõimsuse režiimid 10 W ja 15 W, saavutades aktiivse režiimi põhjal maksimaalse jõudluse vahemikus 14 kuni 21 TOPS. Tööriista nvpmodel kasutatakse toiteprofiilide haldamiseks, et reguleerida GPU, CPU, mitmesuguste SoC-kellade ja mälukontrolleri kõrgeimaid CLK-sagedusi koos erinevate CPU-klastritega.

Töökoormuse põhjal tasakaalustab DVFS (dünaamiline pinge ja sageduse skaleerimine) sagedused käitusajal nende kõrgeimate piirideni, nagu on kirjeldatud aktiivses nvp-mudelis, seega väheneb energiakasutus tühikäigul ja protsessori töö põhjal. Nvpmodel tööriist aitab luua ja muuta uusi toiterežiime, mis põhinevad TDP- ja rakendusnõuetel.

NVIDIA Jetsoni moodul tõstab superarvuti jõudluse väikese vormiteguri SOM-i (system-on-module) piires. 21 TOPS-i kiirendatud andmetöötlus saadab hobujõudu jooksvate närvivõrkude paralleelseks käitamiseks ja erinevate kõrge eraldusvõimega andurite andmete töötlemiseks. See moodul sobib ideaalselt suure jõudlusega AI-süsteemide jaoks, nagu meditsiiniinstrumendid, kaubanduslikud robotid, AIoT manustatud süsteemid, nutikad kaamerad, automatiseeritud optiline kontroll, kõrge eraldusvõimega andurid, nutikad tehased jne.

Tarkvara

NVIDIA Jetson moodulit toetatakse lihtsalt kombineeritud tarkvaraarhitektuuride kaudu, nii et see muudab tarkvaraarendajate töö palju lihtsamaks. See kombineeritud lähenemisviis säästab lihtsalt arendajat korduva kodeerimise vaevast, parandades samal ajal nende koosseise teistel Jetsoni moodulitel.

NVIDIA JetPack SDK on saadaval koos Linuxi operatsioonisüsteemiga, CUDA-X kiirendatud teekide ja API-dega erinevate masinõppe valdkondade jaoks, nagu arvutinägemine, süvaõpe jne. See toetab ka masinõppe raamistikke, nagu Caffe, TensorFlow, Keras ja OpenCV arvutinägemine. raamatukogud.
NVIDIA Jetson pakub oma moodulitele erinevaid tarkvaratööriistu, mida käsitletakse allpool.

NVIDIA JetPack SDK

Jetsoni platvormi tarkvara Komplektid nagu TensorRT, CUDA Toolkit, cuDNN, GStreamer, OpenCV ja Visionworks on kõik L4T peale kokku pandud LTS Linuxi tuuma kaudu.

NVIDIA Jetson Linuxi draiveripakett

See pakub Jetsoni platvormi jaoks Linuxi tuuma, NVIDIA draivereid, alglaadurit, näidisfailisüsteemi, vilkuvaid utiliite ja palju muud.

NVIDIA DeepStream SDK

See on API-de ja teekide komplekt, mis aitab arendajatel Jetsoni platvormil tugevaid IVA-lahendusi (intelligentne videoanalüütika) kavandada ja korraldada. Seda kasutatakse keerukate rakenduste loomiseks, nagu kodeerimine, pildihõive, dekodeerimine, TensorRT-ga järelduste tegemine jne.

NVIDIA Isaac SDK

See on teekide, API-de, draiverite ja muude tööriistade komplekt, mis lisab AI järgmise põlvkonna robotitele navigeerimiseks, tajumiseks ja manipuleerimiseks. Seega aitab see AI-toega robootika loomisel ja juurutamisel.

NVIDIA Jetsoni tüübid

NVIDIA Jetsoni mooduliga on kaasas mälu, GPU, CPU, kiire liidesed, toitehaldus jne. Need moodulid on saadaval erineva jõudlusega, energiatõhususe ja vormitegurite variatsioonidega, et neid saaks kasutada erinevates tööstusharudes. Saadaval on erinevad NVIDIA Jetsoni seadmed, mida käsitletakse allpool.

NVIDIA Jetson Nano

NVIDIA Jetson Nano moodul sobib arendajatele või õpilastele ja ka algajatele, kuna see on mõeldud peamiselt praktiliseks õppimiseks ja õpetamiseks. Selle mooduli suurus on väike, kuid selle energiatõhusus ja jõudlus on kõrged, et see oleks ideaalne mitme paralleelse närvivõrgu, tehisintellekti töökoormuse ja kõrge eraldusvõimega andurite andmete töötlemiseks korraga. Seega on Jetson Nano moodul väga populaarne servaseade, mida kasutatakse manustatud tehisintellekti toodete ja lahenduste valmistamiseks.

See moodul sobib suurepäraselt AI-põhiste arvutinägemisrakenduste jaoks ja täidab tehisintellekti nägemisega seotud ülesandeid, nagu objektide tuvastamine, kujutiste segmenteerimine, kujutiste klassifitseerimine jne. See moodul ühildub väga avatud lähtekoodiga arvutinägemistarkvara ja OpenCV masinõppe raamatukogudega.

NVIDIA Jetson TX2 seeria

NVIDIA Jetson TX2 seeria moodul on loodud krediitkaardisuuruses. Selle mooduli funktsioonide hulka kuuluvad peamiselt NVIDIA Pascal GPU, kuni 8 GB mälu, 59,7 GB/s mälu ribalaius ja standardsed riistvaraliidesed. See moodul pakub NVIDIA Jetson Nano mooduliga võrreldes jõudlust kuni 2,5 korda.

See moodul juhib väga tõhusalt sügavaid närvivõrke ääreseadmetes, et saavutada suurem täpsus. Seerias saadaval olevad moodulid hõlmavad peamiselt Jetson TX2 4GB, Jetson TX2i, Jetson TX2 ja Jetson TX2 NX. NVIDIA Jetson TX2 NX moodul lihtsalt jagab tihvtide ja vormitegurite ühilduvust Jetson Xavier NX ja Jetson Nano kaudu.

Ülejäänud kolm moodulit jagavad algse Jetson TX2 mooduli kuju. TX2-seeria kasutusala ulatub lihtsalt erinevatesse tööstusharudesse, nagu põllumajandus, tootmine, bioteadused, jaemüük jne. Ülejäänud moodulitest Jetson TX2i moodul sobib kõige paremini suure jõudlusega AI-seadmete jaoks, nagu meditsiiniseadmed, masinnägemiskaamerad ja tööstusrobotid, kuna selle tugevast disainist.

See moodul on väga kiire sisseehitatud tehisintellekti andmetöötlusseade, mis pakub kõrget võimsustõhusust (nt 7,5 W), superarvuti võimalusi peamiselt AI-seadmete jaoks ning ka erinevaid riistvaraliideseid, mida on lihtne lisada erinevatesse toodetesse ja vormiteguritesse.

NVIDIA Jetson Xavier NX

NVIDIA Jetson Xavier NX moodul on väga väike võrreldes suure jõudluse ja energiatõhususega krediitkaardiga. Seda tuntakse ka kui maailma väikseimat AI superarvutit serva- ja manustatud süsteemide jaoks. See moodul aitab eriti terviklike AI-süsteemide käitamisel.

Jetson Xavier NX funktsioonid toetavad ka pilvepõhiseid tehnoloogiaid, nii et arendajatel on tehisintellekti toodete uuendamine ja haldamine lihtne. See moodul toetab kõiki populaarseid AI mudeleid ja raamistikke. Seega sobib see moodul täielikult suure jõudlusega AI-süsteemidega, nagu nutikad kaamerad, AI-toitega kõrge eraldusvõimega nägemissüsteemid, droonid, kommertsrobotid või meditsiiniseadmed.

NVIDIA Jetson Xavier NX moodul pakub 21 Tera operatsiooni sekundis või TOPS-i, et käitada praegust tehisintellekti töökoormust, tarbides 10 W energiat. Selle mooduli vormitegur on krediitkaardiga võrreldes kompaktsem. Xavier NX moodul käitab korraga erinevaid närvivõrke ja töötleb andmeid erinevatelt kõrge eraldusvõimega anduritelt. Seda tüüpi mooduleid kasutatakse rakenduste kavandamiseks manustatud ja servaarvutusseadmetele, mis vajavad suurt jõudlust, kuigi neil on märkimisväärsed kaalu, suuruse ja võimsuse piirangud.

NVIDIA Jetson AGX Xavier seeria

NVIDIA Jetson AGX Xavier Series moodul on peamiselt välja töötatud järgmise põlvkonna autonoomsete intelligentsete masinate jaoks. See moodul tagab kuni 32 TOPS-i või tera-operatsiooni sekundis tehisintellekti jõudlust, kui kasutada vaid 10 vatti. Tarkvaraarendajal on lihtsalt lubatud kiiresti korraldada närvivõrke NVIDIA AI tarkvaratööriistade komplektiga.

See moodul pakub erinevaid spetsifikatsioone ja funktsionaalseid turbevõimalusi, et arendajad saaksid luua ohutus- või tööstussertifikaadiga tooteid. Selle mooduli suur jõudlus muudab need sobivaks paljude autonoomsete masinate jaoks, nagu logistika- ja tööstusrobotid, tehasesüsteemid ja suured droonid.

Jetson Xavier NX arendajakomplekt

Jetson xavier nx arendajakomplekt sisaldab tugevat energiasäästlikku Xavier NX moodulit, mida kasutatakse tehisintellektiga töötavate servaseadmete jaoks. Sellel moodulil on mõned funktsioonid, nagu pilvepõhine tugi, ja see kiirendab NVIDIA tarkvara virna vaid 10 W võrra ja Jetson TX2 jõudlust üle 10 korra. Seda arendajakomplekti kasutavad intelligentsete masinate tootjad, AI idufirmad ja rakenduste arendajad, et kujundada kaasaegseid tooteid kompaktse, ülitäpse tehisintellekti järelduse ja energiatõhusa vormiteguriga.

Jetson AGX Xavier Industrial

Jetson AGX Xavier Industrial moodul on osa AGX Xavier seeriast. Selle mooduli disain on tihvtidega ühilduv vormitegur, mis juhib nõudlikes rakendustes kõige uuemaid AI mudeleid. See moodul pakub laiemaid vibratsiooni-, põrutus-, temperatuurispetsifikatsioone, täiustatud turvafunktsioone, kuni 4 korda rohkem mälu ja 20 korda suuremat jõudlust kui TX2i moodul.

See moodul on disaineritele suureks abiks automatiseerimise, robootika ja muude intelligentsete toodete kavandamisel. Lisaks sellele kavandab see ka ohutussertifikaadiga ja vastupidavaid tooteid, mis tagavad suure jõudlusega tööstuslike tehisintellektiga manustatud funktsionaalsete ja turvarakenduste jaoks vastupidava ja energiatõhusa kuju.

Eelised

The NVIDIA Jetsoni eelised sisaldama järgmist.

• NVIDIA Jetson sobib õpilastele, üksikutele arendajatele ja erinevatele organisatsioonidele.
• Jetsoni platvorm on väga populaarne, kuna sellel on erinevad eelised, nagu modulaarne paindlikkus, ühtne tarkvara ja pilvepõhiste tehnoloogiate tugi.
• See tahvel sisaldab moodulite komplekti, mis on väga kasulikud kõige jaoks, alates põhilistest AI-rakendustest kuni väga keeruliste AI-toega seadmeteni.
• Seda tahvlit juhib ühtne tarkvaraarhitektuur, mis aitab arendajatel korduvast kodeerimisest vabaneda. Kui nad vajavad AI/ML-i võimsust, saavad nad seadmesse lisada seotud Jetsoni mooduli ja see hoolitseb raskete raskuste tõstmise eest.
• NVIDIA Jetsoni platvorm toetab lihtsalt pilvepõhiseid tehnoloogiaid ja töövooge, nagu orkestreerimine ja konteineriseerimine, pakkudes arendajatele võimalust AI-tooteid kiiresti arendada ja laiendada.
• NVIDIA JetPack SDK on saadaval koos Linuxi OS-i, API-de ja CUDA-X-i kiirendusteekidega mitmesuguste masinõppe domeenide jaoks, nagu arvutinägemine ja süvaõpe. Samuti pakub see tuge masinõppe raamistikele nagu Caffe ja Keras, TensorFlow ja OpenCV arvutinägemise teegid.

Puudused

Sellel on väga vähe puudusi, võttes arvesse hinda

• NVIDIA Jetsoni nanomoodul ei ole saadaval, kui sees on wifi.
• NVIDIA Jetson nanomoodul sisaldab plaadil ainult kahte PWM-tihvti.

Rakendused

NVIDIA Jetsoni rakendused hõlmavad järgmist.

• NVIDIA Jetson moodul pakub suurepäraseid manustamissüsteeme, mida kasutatakse tehisintellektitoodete valmistamiseks mitmesuguste stsenaariumide jaoks. See on tehisintellekti jaoks kasutatav energiasäästlik moodul, mis sisaldab suure jõudlusega, modulaarseid ja väikese kujuga servarvuteid.
• Nvidia Jetsoni plaadid on peamiselt mõeldud kasutamiseks manustatud süsteemides, nagu droonid, robotid ja muud seadmed, mis vajavad võimsat töötlemist väikese kujuga. Jetsoni tahvlite levinumate rakenduste hulka kuuluvad peamiselt meditsiiniseadmed, autonoomsed sõidukid, digitaalsed märgistused, AR/VR-peakomplektid, nutika linna rakendused jne.
• See moodul toetab ühtseid tarkvaraarhitektuure, et muuta tarkvaraarendajate töö palju lihtsamaks.
  NVIDIA Jetsoni moodulid ja seadmed on optimeeritud servaseadmed, mida kasutatakse Edge AI süsteemide arendamiseks.
• NVIDIA Jetson Nano Developer Kit on väga võimas ja väike arvuti, mis käitab paralleelselt mitut närvivõrku erinevate rakenduste jaoks, nagu objektide tuvastamine, kujutiste klassifitseerimine, kõne töötlemine ja segmenteerimine.
• NVIDIA Jetson Nano moodul sobib suurepäraselt AI-l põhinevate arvutinägemisrakenduste jaoks ja täidab tehisintellekti nägemisega seotud ülesandeid, nagu kujutiste segmenteerimine, kujutiste klassifitseerimine, objektide tuvastamine jne.
• NVIDIA Jetsoni nanomoodulid toovad uskumatuid uusi võimalusi tuhandetesse energiatõhusatesse ja väikestesse AI-süsteemidesse
• NVIDIA Jetson Nano moodul ühildub OpenCV masinõppe raamatukogude ja avatud lähtekoodiga arvutinägemise tarkvaraga.

Q). Kui suur on Jetsoni moodulite energiatarve?

A). Jetsoni mooduli energiatarve varieerub sõltuvalt mudelist ja kasutusest. Näiteks Jetson Xavieri mooduli tüüpiline energiatarve on umbes 15–30 W, samas kui Jetson TX2 võib tarbida 7–15 w.

Q). Kas Jetsonit saab kasutada objektide reaalajas tuvastamiseks ja jälgimiseks?

A). Jah, Jetson Platforms saab hakkama nägemise tuvastamise ja jälgimisega. Nanomoodul on suure jõudlusega GPU-servaarvutusplatvormiga, mida saab peamiselt kasutada tuvastamiseks, loendamiseks ja jälgimiseks.

Q). Millist tüüpi anduritega saab Jetson liidestada?

A). Nägemisandureid kasutatakse Jetsoni liidestamiseks erinevate kaameraliidestega, nagu USB, MIPI CSI ja Ethernet. Nad saavad liidestada ka lidari, ultrahelianduri ja muude tüüpidega, samuti kasutades erinevat tüüpi liidest, nagu I2C, SPI jne.

Q). Mis vahe on Jetsonil ja Raspberry Pi-l?

A). Peamine erinevus nende kahe plaadi vahel on; NVIDIA Jetson töötati välja nõudlike tehisintellekti ja arvutinägemisega seotud ülesannete lahendamiseks, samas kui Raspberry Pi 4 plaadil on vähese energiatarbega multimeediumi GPU, mida kasutatakse üldotstarbeliseks andmetöötluseks ja õppetööks. Jetsonit saab kasutada täiustatud funktsioonide jaoks, nagu riistvaraga kiirendatud video dekodeerimine ja kodeerimine, kasutades selle võimsat GPU-d (graafikaprotsessorit) ja CPU-d (keskprotsessorit).

Q). Kas Jetsonit saab kasutada autonoomsete robootikarakenduste jaoks?

A). Homne autonoomne robootika ja tööstus juhitakse jõuallikana läbi NVIDIA Jetson for Intelligent Machines & Robotics.

Seega on see ülevaade NVIDIA Jetsonist – eelised ja selle rakendused. See moodul on juhtiv platvorm kogu maailmas, mida arendajad kasutavad täiustatud tehisintellekti toodete loomiseks kõigis tööstusharudes. Neid mooduleid kasutavad ka üliõpilased ja entusiastid, et saada praktilisi kogemusi tehisintellekti õppimisel, et teha hämmastavaid projekte. Jetsoni platvorm koosneb peamiselt energiatõhusatest väikestest arenduskomplektidest ja tootmismoodulitest. Siin on teile küsimus, mis on NVIDIA?