Passer au contenu principal

Vocabulaire du traitement automatique des langues

Choisissez le vocabulaire dans lequel chercher

  • Aide
aligner
annoter
télécharger

Concept information

... > méthodes et outils de TAL > intelligence artificielle > apprentissage automatique > approche d'apprentissage automatique > apprentissage semi-supervisé > apprentissage auto-supervisé

Terme préférentiel

apprentissage auto-supervisé  

Concept générique

Concepts spécifiques

Contexte(s) définitoire(s)

  • L'apprentissage auto-supervisé à partir du signal de parole consiste à construire un modèle (ici un réseau de neurones profonds) capable de résoudre des pseudo-tâches qui ne nécessitent pas d'annotation humaine. (Solène Evain, Ha Nguyen, Hang Le, Marcely Zanon Boito, Salima Mdhaffar, Sina Alisamir, Ziyi Tong, Natalia Tomashenko, Marco Dinarelli, Titouan Parcollet, Alexandre Allauzen, Yannick Estève, Benjamin Lecouteux, François Portet, Solange Rossato, Fabien Ringeval, Didier Schwab & Laurent Besacier, 2022)
  • L'apprentissage auto-supervisé apprend des représentations générales à partir d'une quantité importante de données non étiquetées cette phase étant appelée le pré-entraînement (en : pre-training). (Macaire, Ormaechea-Grijalba & Pupier, 2022)
  • L'apprentissage auto-supervisé (SSL) est une technique d'apprentissage dans lequel les étiquettes à prédire sont extraites des étiquettes des données d'entrée elles-mêmes. (Whetten, Parcollet, Dinarelli & Estève, 2024)

Exemple

  • L'apprentissage auto-supervisé a ouvert des perspectives prometteuses dans de nombreux domaines comme la vision par ordinateur le traitement automatique de la langue ou celui de la parole. (Solène Evain, Ha Nguyen, Hang Le, Marcely Zanon Boito, Salima Mdhaffar, Sina Alisamir, Ziyi Tong, Natalia Tomashenko, Marco Dinarelli, Titouan Parcollet, Alexandre Allauzen, Yannick Estève, Benjamin Lecouteux, François Portet, Solange Rossato, Fabien Ringeval, Didier Schwab & Laurent Besacier, 2022)
  • L'apprentissage auto-supervisé (SSL) a fait ses preuves pour le traitement automatique de la parole mais est généralement très consommateur de données de mémoire et de ressources matérielles. (Whetten, Parcollet, Dinarelli & Estève, 2024)
  • L'arrivée de l'apprentissage auto-supervisé (Self-Supervised Learning -SSL) dans le domaine du traitement automatique de la parole a permis l'utilisation de grands corpus non étiquetés pour obtenir des modèles pré-appris. (Felice, Evain, Rossato & Portet, 2024)
  • Récemment l'apprentissage auto-supervisé (Self-Supervised Learning SSL) a été introduit dans le domaine de la RAP en raison de son grand potentiel pour améliorer les tâches à faibles ressources en exploitant les connaissances préalables acquises à partir de grandes quantités de données non annotées (Mohamed et al. 2022; N et al. 2021). (Block Medin, Gelin & Pellegrini, 2024)

Traductions

URI

http://data.loterre.fr/ark:/67375/8LP-F8Z6PGWF-Q

Télécharger ce concept :

RDF/XML TURTLE JSON-LD Dernière modification le 29/05/2024