Skip to main

Vocabulary of natural language processing (POC)

Search from vocabulary

Concept information

Término preferido

tokenization  

Definición

  • The task/process of recognizing and tagging tokens (words, punctuation marks, digits etc.) in a text. (Loterre)

Concepto genérico

Etiquetas alternativas

  • text segmentation
  • tokenisation

En otras lenguas

  • francés

  • découpage de texte
  • segmentation de texte

URI

http://data.loterre.fr/ark:/67375/8LP-T7Q0JFBM-5

Descargue este concepto:

RDF/XML TURTLE JSON-LD última modificación 27/5/24