Czym jest przetwarzanie brzegowe?
Przetwarzanie brzegowe to metoda, która przetwarza dane na urządzeniu, które je wytwarza, lub w jego pobliżu, zamiast w odległym centrum danych w chmurze.
Definicja
Shi i współautorzy definiują „brzeg” jako każdy zasób obliczeniowy i sieciowy na drodze między źródłami danych a centrami danych w chmurze. Smartfon, domowa brama i mikrocentrum danych mogą być brzegiem. Uzasadnienie jest takie, że obliczenia powinny odbywać się blisko źródeł danych.
NIST stosuje węższe znaczenie. W NIST SP 500-325 przetwarzanie brzegowe to warstwa urządzeń końcowych i ich użytkowników, z lokalnym przetwarzaniem w czujniku lub podobnym urządzeniu. NIST zaznacza też, że nie istniał konsensus co do tego, czym różnią się brzeg, mgła i pokrewne terminy. Sprawdź, które znaczenie przyjmuje dane źródło.
Dlaczego się je stosuje
Shi i współautorzy wymieniają cztery problemy, które przetwarzanie brzegowe może rozwiązać:
- czas reakcji
- żywotność baterii
- koszty przepustowości
- bezpieczeństwo danych i prywatność
Podają przykład z lotnictwa. Boeing 787 generuje około 5 GB danych na sekundę. Przepustowość łącza między samolotem a satelitą lub stacją bazową nie wystarcza, by wysłać wszystkie te dane.
Sprzęt i rozmiar modelu
Urządzenia brzegowe często działają na ograniczonym zasilaniu. NVIDIA podaje, że moduł Jetson AGX Orin osiąga do 275 TOPS (sparse INT8), a moc można ustawić od 15 W do 60 W. Jetson Orin Nano osiąga do 40 TOPS, przy mocy od 7 W do 15 W.
Wytrenowana sieć neuronowa jest często zbyt duża dla takiego sprzętu. Kwantyzacja przechowuje wagi i aktywacje w typie o niższej precyzji, na przykład w 8-bitowej liczbie całkowitej (INT8). NVIDIA podaje, że kwantyzacja zmniejsza rozmiar modelu i przyspiesza obliczenia.
Przetwarzanie brzegowe a inspekcja lotniska
Nie znaleźliśmy żadnej normy ani opublikowanego badania, które łączyłoby przetwarzanie brzegowe z konkretnym zadaniem inspekcji lotniska. Zdjęcia z drona przedstawiające oświetlenie, przeszkody i nawierzchnię można przetwarzać na dronie, na komputerze na lotnisku lub w chmurze.
Często zadawane pytania
- Czym różni się przetwarzanie brzegowe od przetwarzania mgłowego?
- NIST opisuje przetwarzanie brzegowe jako warstwę urządzeń końcowych i ich użytkowników, z lokalnym przetwarzaniem w czujniku lub podobnym urządzeniu. Przetwarzanie mgłowe to hierarchia węzłów między brzegiem a chmurą. Niektórzy autorzy traktują oba terminy jako wymienne, a NIST zauważa, że w chwili wydania SP 500-325 w 2018 roku nie było konsensusu co do tego rozróżnienia.
- Dlaczego przetwarzać dane na brzegu?
- Przetwarzanie na brzegu może skrócić czas reakcji, zużycie baterii, koszty przepustowości i narażenie prywatnych danych. Są to cztery korzyści wymienione w przeglądzie IEEE z 2016 roku autorstwa Shi i współautorów. Najważniejsza korzyść zależy od zastosowania.
- Jak duża sieć neuronowa działa na małym sprzęcie brzegowym?
- Jedną z metod jest kwantyzacja. Przechowuje ona wagi modelu i aktywacje w typie o niższej precyzji, na przykład w 8-bitowej liczbie całkowitej (INT8). NVIDIA podaje, że to zmniejsza rozmiar modelu i przyspiesza obliczenia w TensorRT.
Bibliografia
- shi-edge-2016
- Edge Computing: Vision and Challenges IEEE Internet of Things Journal, vol. 3, no. 5, October 2016 (W. Shi, J. Cao, Q. Zhang, Y. Li, L. Xu)
- nist-sp-500-325
- NIST Special Publication 500-325, Fog Computing Conceptual Model NIST
- nvidia-jetson-orin
- NVIDIA Jetson Orin NVIDIA
- nvidia-tensorrt-quantization
- NVIDIA TensorRT documentation, Working with Quantized Types NVIDIA
To wpis referencyjny. TarmacView świadczy usługi inspekcji dronami i nie sprzedaje sprzętu ani materiałów opisanych w tym słowniczku.
