: Vocabulario de PLN: XLNet

... > modèle > modèle statistique > modèle de fondation > modèle de langue > XLNet

... > statistiques > modèle statistique > modèle de fondation > modèle de langue > XLNet

XLNet

« Une méthode autorégressive généralisée qui exploite le meilleur de la modélisation linguistique autorégressive et par autoencodage tout en évitant leurs limites. » (Yang et al., 2020)

Dans ce travail nous estimons la capacité de différents modèles de type transformers pré-entraînés (BERT RoBERTa XLNet ALBERT) à prédire la télicité et la durée. (Metheniti, van de Cruys & Hathout, 2021)
Le fine-tuning a été réalisé sur des modèles transformers de plusieurs architectures (BERT RoBERTa XLNet ALBERT). (Metheniti, van de Cruys & Hathout, 2021)
Nos résultats montrent que BERT est le plus performant sur les deux tâches tandis que les modèles XLNet et ALBERT sont les plus faibles. (Metheniti, van de Cruys & Hathout, 2021)

http://data.loterre.fr/ark:/67375/8LP-VVX7L2X2-S

RDF/XML TURTLE JSON-LD última modificación 26/4/24

Loterre