Comment transférer la connaissance de la ou des tâche(s) source(s) vers la ou les tâche(s) cible(s)
Le transfer learning, ou apprentissage par transfert en français, permet de mutualiser des données et savoirs, afin d'améliorer la qualité des réseaux de neurones artificiels. Le deep learning nécessite en effet un nombre important de modèles et d'algorithmes pour l'apprentissage automatique.
Le transfer learning, c'est quoi ?
Le transfer learning, ou apprentissage par transfert, désigne les techniques permettant de transférer les connaissances de plusieurs sources vers d'autres problèmes à régler. Il s'agit des compétences apprises à partir de tâches antérieures servant à améliorer de nouvelles tâches similaires. Ce transfert de savoirs global est très efficace dans le cas du deep learning.
Comment fonctionne le transfer learning ?
L'intelligence artificielle (IA), et plus spécifiquement le deep learning, nécessite un grand nombre de données pour faire fonctionner à leur meilleur niveau les réseaux de neurones artificiels. Pour améliorer la qualité de l'apprentissage d'un logiciel, il est possible de mutualiser des savoirs d'un modèle à un autre.
Le transfer learning fonctionne grâce à des places de marché sur le web. Celles-ci comprennent des milliers d'algorithmes déposés par des contributeurs bienveillants.
Quels sont les différents types de transfer learning ?
Il existe différentes catégories de transfer learning :
L'apprentissage par transfert inductif : les sources et cibles relèvent du même domaine, mais les problèmes à résoudre sont différents. L'apprentissage par transfert non supervisé : les sources et cibles sont similaires, et les tâches sont différentes. Par contre, les données ne sont pas labellisées, ce qui permet d'obtenir un plus grand nombre de sources, notamment sur le web. L'apprentissage par transfert transductif : les tâches et sources sont les mêmes, mais les domaines sont différents.
Quels sont les avantages du transfer learning ?
Le transfer learning permet de réaliser des bénéfices importants, en termes de temps et de techniques d'apprentissage. Une base de données gratuite sur le web va enrichir et améliorer la qualité des réseaux de neurones d'un logiciel.
En quoi consiste le fine tuning en transfer learning ?
Le fine tuning permet des réglages spécifiques lors de la méthode du transfer learning, permettant de faire des ajustements progressifs et de geler certains poids du modèle pré-entraîné.
Peut-on faire du transfer learning avec PyTorch, TensorFlow ou Keras ?
Il est possible de faire du transfer learning avec ces différentes technologies de deep learning afin d'améliorer leurs capacités.
