Qu’est-ce que l’apprentissage par transfert ?

L’apprentissage par transfert est une méthode d’apprentissage automatique qui utilise un modèle entraîné sur une tâche pour améliorer l’apprentissage d’une autre tâche. Pan et Yang le définissent avec un domaine et une tâche source, puis un domaine et une tâche cibles. Les domaines ou les tâches diffèrent.

Fonctionnement

Un modèle est d’abord entraîné sur un grand jeu de données source. Pour les modèles d’images, il s’agit souvent d’ImageNet, qui compte environ 1,2 million d’images d’entraînement réparties en 1 000 classes. Le modèle est ensuite réutilisé pour la nouvelle tâche, qui dispose de moins de données étiquetées. Il existe deux façons courantes de le réutiliser :

• Extraction de caractéristiques. Retirer la dernière couche de classification, figer le reste, et entraîner un nouveau classifieur linéaire sur la sortie.
• Réglage fin. Remplacer le classifieur et poursuivre l’entraînement d’une partie ou de la totalité des couches préentraînées. Les poids préentraînés reçoivent un taux d’apprentissage plus faible que le nouveau classifieur.

Peu d’équipes entraînent un réseau complet depuis zéro, car les grands jeux de données sont rares. Pour un petit jeu cible proche des données source, les notes du cours CS231n de Stanford recommandent l’extraction de caractéristiques. Un grand jeu cible permet le réglage fin de tout le réseau.

Pourquoi les caractéristiques se transfèrent

Yosinski et ses coauteurs ont testé ce point couche par couche. Les caractéristiques de la première couche, comme les taches de couleur, sont générales. Les couches suivantes sont plus spécifiques à la tâche source. Plus la tâche cible diffère de la tâche source, moins les caractéristiques se transfèrent. Partir de poids transférés peut encore aider après le réglage fin.

Backbones auto-supervisés

Un backbone (réseau de base) n’a pas besoin d’étiquettes pour être utile. DINOv3, de Meta AI, est entraîné sans étiquettes manuelles sur un jeu de données soigneusement sélectionné de 1 689 millions d’images. Son plus grand modèle compte 7 milliards de paramètres. Les auteurs indiquent qu’il donne de bons résultats sur de nombreuses tâches sans réglage fin, et que dans la plupart de leurs tests le backbone reste figé. Voir aussi la page DINOv3 de ce glossaire.

Inspection d’aérodrome

Les relevés de l’indice de l’état de la chaussée (PCI) suivent l’ASTM D5340, comme l’indique la circulaire FAA AC 150/5380-7B. La circulaire ne mentionne pas l’apprentissage automatique. Un modèle construit par apprentissage par transfert ne peut que détecter des défauts dans les images. Il ne modifie pas la méthode de relevé.