aiAbstract-check
TinyBERT
ChemBERTa
sciBERT
KM-BERT
BlueBERT
ERNIE
dataHomogenise
UniLM
RobeCzech
large language model
grand modèle de langue
Mol-BERT
German BERT
BERT-PLI
CodeBERT
ClinicalBERT
GreenBioBERT
PEGAUSUS
IndicBERT
KoBERT
PaLM
SBERT
KB-BERT
BLOOM
BEHRT
BioALBERT
Flair
WangchanBERTa
AstroLLaMA
PTT5
XLM-T
GreekBERT
PhoBERT
convBERT
entityBERT
Lemur
PubMedBERT
Apertus
Romanian BERT
IndoBERT
ruBERT
StructBERT
BERT-SentiX
araELECTRA
CANINE
KeBioLM
PLBART
HerBERT
AlBERTo
NetBERT
BARThez
BERTopic
KR-BERT
BERTje
text
KLUE-BERT
ARBERT
RoBERTa
BART
spanBERT
MARBERT
DrBERT
DeBERTa
CodeGPT
ParsBERT
AraBERT
GPT-2
all-Mini-LM-L6fr
all-Mini-LM-L6
LongFormer
T-NER
BanglaBERT
RadBERT
MuRIL
mT5
BERTurk
BERTJapanese
BioBERT
BioMedBERT
Slavic BERT
FlauBERT
TextAttack
Spark NLP
PharmBERT
HeBERT
SciFive
MobileBERT
CancerBERT
BETO
KLUE-RoBERTa
Spark NLP Scala
Legal-HeBERT
GPT-3
Tohoku-BERT
astroBERT
convBERTurk
conBERTurk
Finnish BERT
Czert-A
PolishBERT
Spark NLP Python
BERTweet
DistilBERT
GPT
ProkBERT
AlephBERT
COVID-Twitter-BERT
nanoBERT
Legal-BERT
TOD-BERT
KoreALBERT
XLM-RoBERTa
golgotha
ELECTRA
MiniLM
Genomic ULMFit
gpt-oss
MathBERT
CharBERT
RobBERT
Llama 2
DeLFT
GluonNLP
polyBERT
ProteinBERT
Unicoder
AbLang
LaMDA
CoText
Neural networks models
modèles de réseaux de neurones
RoBERTuito
Galactica
AraGPT2
RBERT
OuBioBERT
HateBERT
KeyBERT
TransPolymer
BioMed-RoBERTa
MentalBERT
GenSLMS
GenSLMs
ALeaseBERT
CamemBERT
estBERT
PolyNC
byT5
Czech-B
LLaMAntino
SmolLM
medBERT
KoGPT2
MASS
OAG-BERT
XLNet
mentalRoberta
SapBERT
GottBERT
MC-BERT
transformers
OPT
srBERT
BERTimbau
UmlsBERT
qwen
UTH-BERT
UmBERTo
DNABERT
ALBERT
M-BERT
transformer
transformeur
"sequence transduction model based entirely on attention, replacing the recurrent layers most commonly used in encoder-decoder architectures with multi-headed self-attention." (Vaswani et al., 2017, p. 10).
« modèle de transduction de séquences entièrement basé sur l'attention, remplaçant les couches récurrentes les plus couramment utilisées dans les architectures encodeur-décodeur par l'auto-attention multi-têtes. » (Vaswani et al., 2017, p. 10).
modèle auto-attentif
self-attention model
modèle d'auto-attention
transformateur
• Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, L., & Polosukhin, I. (2017). Attention is all you need. arXiv:1706.03762 [cs]. http://arxiv.org/abs/1706.03762