研究社 英和コンピューター用語辞典

研究社

調べた例文を記録して、効率よく覚えましょう
Weblio会員無料で登録できます
履歴機能 過去に調べた単語を確認できる
語彙力診断 診断回数が4回に増加
マイ単語帳 便利な学習機能付き
マイ例文帳 文章で意味を理解できる

Wiktionary英語版

出典:Wiktionary

tokenizer

出典:『Wiktionary』 (2015/03/30 22:30 UTC 版)

語源

tokenize +‎ -er

名詞

tokenizer (複数形 tokenizers)

  1. (computing) A system that parses an input stream into its component tokens.

Weblio例文辞書

英和辞典・和英辞典 - Weblio辞書

tokenizer

Weblio例文辞書はプログラムで機械的に意味や英語表現を生成しているため、不適切な項目が含まれていることもあります。ご了承くださいませ。

閲覧履歴

tokenizerのページの著作権