Čo je adaptácia domény pre modely kontroly rôznych povrchov?

Často kladené otázky

Čo je adaptácia domény v strojovom učení?

Adaptácia domény je podoblasť prenosového učenia, ktorá rieši problém posunu domény, keď model natrénovaný na zdrojovom datasete funguje zle pri nasadení na cieľový dataset s odlišnými štatistickými vlastnosťami. Cieľom je naučiť sa reprezentácie vlastností invariantné voči doméne tak, aby model generalizoval naprieč doménami bez potreby úplného pretrénovania na označených cieľových dátech. Adaptácia domény sa delí na riadenú (dostupné obmedzené označené cieľové dáta), bezdozorovú (žiadne označené cieľové dáta) a semi-riadenú (časť označených plus neoznačené cieľové dáta) varianty.

Ako posun domény ovplyvňuje modely detekcie trhlín na vozovkách?

Posun domény pri detekcii trhlín na vozovkách spôsobuje pokles výkonnosti o 30–45 % v priemernom prieniku cez zjednotenie (mIoU) pri prechode z jedného datasetu na druhý. Zdroje posunu zahŕňajú rozdiely v materiáli povrchu (asfalt vs betón), variácie morfológie trhlín (pozdĺžne vs sieťové praskanie), zmeny zobrazovacích podmienok (uhol osvetlenia, rozlíšenie, snímač kamery) a geografické faktory (rôzne typy kameniva a vzory starnutia). Napríklad model natrénovaný na datasete CQU-BPDD dosahuje 0,72 mIoU na zdrojových testovacích dátach, ale po otestovaní na cieľových dátach RDD2020 bez adaptácie klesne na 0,31.

Aký je rozdiel medzi prenosovým učením a adaptáciou domény?

Prenosové učenie prispôsobuje model predtrénovaný na jednej úlohe na vykonávanie inej úlohy, napríklad doladenie klasifikačného modelu ImageNet na detekciu trhlín. Adaptácia domény rieši rovnakú úlohu naprieč rôznymi distribúciami dát, napríklad prispôsobenie detektora trhlín z asfaltu na detekciu trhlín na betónových povrchoch. Pri prenosovom učení sa zdrojová a cieľová úloha môžu líšiť, pri adaptácii domény je úloha identická, ale vstupné distribúcie sa líšia.

Čo sú vlastnosti invariantné voči doméne?

Vlastnosti invariantné voči doméne sú reprezentácie extrahované neurónovou sieťou, ktoré majú rovnakú štatistickú distribúciu bez ohľadu na to, z ktorej domény vstup pochádza. Ak sieť na detekciu trhlín naučí vlastnosti, ktoré vyzerajú rovnako, či už je vstupom obraz asfaltovej cesty alebo betónovej dráhy, tieto vlastnosti sú invariantné voči doméne. Učia sa prostredníctvom adversariálneho trénovania (diskriminátor domény nedokáže určiť, z ktorej domény vlastnosti pochádzajú), štatistického priraďovania momentov (MMD, CORAL) alebo techník optimálneho transportu. Základnou výzvou je kompromis medzi invarianciou a diskriminovateľnosťou: prílišné nútienie vlastností k invariancii voči doméne môže odstrániť relevantné informácie, ako je textúra trhlín, ktorá koreluje s typom povrchu.

Ako funguje bezdozorová adaptácia domény?

Bezdozorová adaptácia domény (UDA) používa označené zdrojové dáta a neoznačené cieľové dáta na trénovanie modelu, ktorý generalizuje na cieľovú doménu. Tri hlavné prístupy sú: (1) adversariálne metódy ako DANN, kde sa diskriminátor domény snaží identifikovať, z ktorej domény vlastnosti pochádzajú, zatiaľ čo extraktor vlastností sa ho snaží oklamať, (2) metódy založené na diskrepancii ako DeepCORAL a DAN, ktoré minimalizujú miery štatistickej vzdialenosti (MMD, rozdiel kovariancie) medzi zdrojovými a cieľovými distribúciami vlastností, a (3) rekonštrukčné metódy využívajúce autoenkódery alebo GAN na učenie zdieľaných reprezentácií.

Aké výzvy existujú pri adaptácii z cestnej na letiskovú kontrolu?

Adaptácia domény z cesty na dráhu čelí zásadným rozdielom v materiáli povrchu (asfalt vs vysokopevnostný PCC betón), charakteristikách zaťaženia (nápravy 10-tonových vozidiel vs zaťaženie lietadiel 50–400 ton), typoch defektov (gumové nánosy, erózia prúdovými motormi, poškodenie palivom na dráhach), prístupe ku kontrole (verejné cesty vs obmedzená letisková zóna), metódach snímania (pozemné vozidlá vs UAV vo výške 30–100 m) a regulačnej zhode (normy ICAO Annex 14). Interferencia gumových nánosov je obzvlášť náročná, guma z pneumatík sa hromadí ako tmavé škvrny na dráhach, ktoré môžu napodobňovať alebo zakrývať trhliny, čo je stav, s ktorým sa cestné modely nikdy nestretávajú.

Čo je Domain-Adversarial Neural Network (DANN)?

Domain-Adversarial Neural Network (DANN), predstavená Ganinom a Lempitským v roku 2015, je kanonická architektúra pre adversariálnu adaptáciu domény. Pozostáva z troch komponentov: extraktora vlastností, ktorý mapuje vstupy do zdieľaného priestoru vlastností, prediktora označení, ktorý vykonáva úlohu (napr. klasifikáciu trhlín), a klasifikátora domény, ktorý predikuje, do ktorej domény vstup patrí. Vrstva na obrat gradientu (GRL) sa nachádza medzi extraktorom vlastností a klasifikátorom domény, počas spätného šírenia obracia znamienko gradientu, čo spôsobuje, že extraktor vlastností sa učí vlastnosti maximalizujúce zámenu domény. Celková strata kombinuje stratu úlohy na zdrojových označeniach mínus stratovú funkciu klasifikácie domény, váženú hyperparametrom lambda.

Ako TarmacView využíva adaptáciu domény?

TarmacView implementuje adaptáciu domény prostredníctvom svojho pipelainu doladenia, ktorý podporuje viacero stratégií adaptácie: úplné doladenie pri dostupnom miernom množstve cieľových dát, doladenie poslednej vrstvy pri veľmi obmedzených cieľových dátech a bezdozorovú adaptáciu pomocou zosúladenia vlastností, keď nie sú k dispozícii žiadne cieľové označenia. Platforma podporuje varianty doladené adaptáciou domény, ktoré kombinujú zdrojové predtrénovanie s úpravou špecifickou pre cieľ pomocou adaptácie dávkovej normalizácie, postupného odmrazovania a augmentácie dát prispôsobenej zobrazovacím podmienkam cieľovej domény. To umožňuje nasadenie na letiskách, cestách, mostoch a pojazdových dráhach bez pretrénovania modelu pre každé letisko.

Čo je Maximum Mean Discrepancy (MMD)?

Maximum Mean Discrepancy (MMD) je štatistický test založený na jadre, ktorý meria vzdialenosť medzi dvoma rozdeleniami pravdepodobnosti v reprodukujúcom Hilbertovom priestore jadra (RKHS). Pri adaptácii domény sa MMD používa ako stratová funkcia na minimalizáciu rozdielu distribúcií medzi zdrojovými a cieľovými reprezentáciami vlastností. Vzorec MMD vypočítava normu rozdielu medzi strednými vloženiami zdrojových a cieľových vlastností v RKHS. Hlboké adaptačné siete (DAN) a Spoločné adaptačné siete (JAN) začleňujú stratovú funkciu MMD vo viacerých vrstvách siete na dosiahnutie viacúrovňového zosúladenia domén.

Aké normy ICAO súvisia s adaptáciou domény pre kontrolu dráh?

ICAO Annex 14 stanovuje normy pre návrh a prevádzku letísk, ktoré vytvárajú prirodzenú požiadavku na adaptáciu domény, rôzne letiská majú rôzne materiály vozoviek, klimatické podmienky a históriu údržby, takže modely na kontrolu sa musia prispôsobovať medzi letiskami. Globálny formát podávania správ (GRF) definuje kategórie stavu povrchu dráhy (suchý, mokrý, klzký mokrý, kontaminovaný), ktoré predstavujú odlišné vizuálne domény. ICAO Doc 9137 Part 9 a FAA AC 150/5380-6C poskytujú usmernenia pre údržbu. Pri nasadzovaní AI kontroly na viacerých letiskách je adaptácia domény nevyhnutná, pretože model natrénovaný na dátach z jedného letiska sa stretne s odlišným osvetlením, vekom vozovky a morfológiou defektov na inom letisku.