@prefix skos: . @prefix inist: . @prefix dc: . @prefix xsd: . @prefix ltk: . @prefix owl: . skos:prefLabel "modèle de langue"@fr, "language model"@en ; a skos:Concept ; skos:narrower . skos:example "L'utilisation de BERT au lieu de ELMo ou GloVe améliore respectivement le score d'environ 3 et 5 points dans chaque expérience, et l'ajout du WNGT aux données de d'entraînement l'améliore encore d'environ 2 points. (Vial, Lecouteux & Schwab, 2019)"@fr, "Comme nous pouvons le voir dans la table 5, le corpus d'entraînement supplémentaire (WNGT) et encore plus l'utilisation de BERT en tant que vecteurs de mots ont tous les deux un impact majeur sur nos résultats et conduisent à des scores supérieurs à l'état de l'art. (Vial, Lecouteux & Schwab, 2019)"@fr, "Alors qu'en principe, nous aurions pu utiliser n'importe quel modèle discriminatif, comme le suggère la littérature de Snorkel, BERT nous a donné de loin les meilleurs résultats sur la prédiction de l'attachement. (Badene, Thompson, Lorré & Asher, 2019)"@fr, "De plus, étant donné que les vecteurs retournés par BERT encodent directement les positions des mots, il n'est pas nécessaire d'avoir une récurrence au niveau des couches cachées. (Vial, Lecouteux & Schwab, 2019)"@fr, "C'est pourquoi nous avons également utilisé BERT comme modèle pour l'apprentissage supervisé de l'attachement afin de comparer ses résultats avec ceux de la méthode de supervision faible. (Badene, Thompson, Lorré & Asher, 2019)"@fr ; skos:definition "BERT is designed to pretrain deep bidirectional representations from unlabeled text by jointly conditioning on both left and right context in all layers. (Devlin et al., 2019)."@en, "BERT est conçu pour pré-entraîner des représentations bidirectionnelles profondes à partir de textes non étiquetés en conditionnant conjointement les contextes gauche et droit dans toutes les couches. (Devlin et al., 2019)"@fr ; skos:inScheme ; skos:prefLabel "BERT"@fr, "BERT"@en ; a skos:Concept ; skos:hiddenLabel "bert"@en, "bert"@fr ; skos:broader ; inist:definitionalContext "Conçue à l'origine pour les tâches de traduction automatique, BERT utilise l'auto-attention bidirectionnelle pour produire les encodages et produit des résultats qui dépassent l'état de l'art sur de nombreuses tâches de classification textuelle. (Badene, Thompson, Lorré & Asher, 2019)"@fr ; dc:modified "2024-04-26T13:22:07"^^xsd:dateTime ; skos:altLabel "Bidirectional Encoder Representations from Transformers"@en ; skos:exactMatch ltk:-SSWGBD85-7 . a owl:Ontology, skos:ConceptScheme .