Skip to main content

ThesoTM (thésaurus)

Search from vocabulary

Concept information

Preferred term

tokenisation  

Definition

  • Tâche/processus de reconnaissance et d'étiquetage d'éléments (mots, signes de ponctuation, chiffres, etc.) dans un texte.

Broader concept

Synonym(s)

  • segmentation en unités

In other languages

URI

http://data.loterre.fr/ark:/67375/LTK-T5RXB3DL-2

Download this concept: