Čo je edge computing?
Edge computing je metóda, ktorá spracováva údaje na zariadení, ktoré ich vytvára, alebo v jeho blízkosti, namiesto vo vzdialenom cloudovom dátovom centre.
Definícia
Shi a spoluautori definujú „okraj“ ako akýkoľvek výpočtový a sieťový zdroj na ceste medzi zdrojmi údajov a cloudovými dátovými centrami. Smartfón, domáca brána aj mikro dátové centrum môžu byť okrajom. Východiskom je, že výpočty by mali prebiehať blízko zdrojov údajov.
NIST používa užší význam. V NIST SP 500-325 je edge computing vrstvou koncových zariadení a ich používateľov, s lokálnym výpočtom na senzore alebo podobnom zariadení. NIST tiež uvádza, že neexistovala zhoda o tom, ako sa edge, fog a príbuzné termíny líšia. Skontrolujte, aký význam používa daný zdroj.
Prečo sa používa
Shi a spoluautori uvádzajú štyri problémy, ktoré môže edge computing riešiť:
- čas odozvy
- výdrž batérie
- náklady na šírku pásma
- bezpečnosť údajov a súkromie
Uvádzajú aj príklad z letectva. Boeing 787 generuje asi 5 GB údajov za sekundu. Šírka pásma medzi lietadlom a satelitom alebo základňovou stanicou nestačí na to, aby sa všetky údaje odoslali.
Hardvér a veľkosť modelu
Okrajové zariadenia často bežia na obmedzený výkon. NVIDIA uvádza modul Jetson AGX Orin až do 275 TOPS (sparse INT8) s nastaviteľným výkonom medzi 15 W a 60 W. Jetson Orin Nano je uvádzaný až do 40 TOPS s možnosťami výkonu medzi 7 W a 15 W.
Natrénovaná neurónová sieť je pre takýto hardvér často príliš veľká. Kvantizácia ukladá váhy a aktivácie v type s nižšou presnosťou, napríklad ako 8-bitové celé číslo (INT8). NVIDIA uvádza, že kvantizácia zmenšuje veľkosť modelu a zrýchľuje výpočet.
Edge computing a kontrola letiska
Nenašli sme žiadnu normu ani publikovanú štúdiu, ktorá by spájala edge computing s konkrétnou úlohou kontroly letiska. Dronové snímky svetiel, prekážok a vozoviek je možné spracovať na dróne, na počítači na letisku alebo v cloude.
Často kladené otázky
- Aký je rozdiel medzi edge computing a fog computing?
- NIST opisuje edge computing ako vrstvu koncových zariadení a ich používateľov, s lokálnym výpočtom na senzore alebo podobnom zariadení. Fog computing je hierarchia uzlov medzi okrajom siete a cloudom. Niektorí autori považujú oba termíny za zameniteľné a NIST uvádza, že pri vydaní SP 500-325 v roku 2018 neexistovala zhoda o tomto rozlíšení.
- Prečo spracovávať údaje na okraji siete?
- Spracovanie na okraji siete môže znížiť čas odozvy, spotrebu batérie, náklady na šírku pásma a vystavenie súkromných údajov. Tieto štyri prínosy uvádza prehľad IEEE z roku 2016, ktorý pripravili Shi a spoluautori. Najdôležitejší prínos závisí od aplikácie.
- Ako beží veľká neurónová sieť na malom hardvéri na okraji siete?
- Jednou metódou je kvantizácia. Ukladá váhy a aktivácie modelu v type s nižšou presnosťou, napríklad ako 8-bitové celé číslo (INT8). NVIDIA uvádza, že v TensorRT to zmenšuje veľkosť modelu a zrýchľuje výpočet.
Referencie
- shi-edge-2016
- Edge Computing: Vision and Challenges IEEE Internet of Things Journal, vol. 3, no. 5, October 2016 (W. Shi, J. Cao, Q. Zhang, Y. Li, L. Xu)
- nist-sp-500-325
- NIST Special Publication 500-325, Fog Computing Conceptual Model NIST
- nvidia-jetson-orin
- NVIDIA Jetson Orin NVIDIA
- nvidia-tensorrt-quantization
- NVIDIA TensorRT documentation, Working with Quantized Types NVIDIA
Toto je referenčný záznam. TarmacView poskytuje služby dronovej inšpekcie a nepredáva vybavenie ani materiály opísané v tomto slovníku.
