最終更新日:2025/11/23

(transitive, computing) To reduce to a set of tokens by lexical analysis. / (transitive, computing) To substitute sensitive data with meaningless placeholders.

音声機能が動作しない場合はこちらをご確認ください
正解を見る

tokenize

編集履歴(0)
元となった辞書の項目

tokenize

IPA(発音記号)
動詞
他動詞
日本語の意味
字句解析を通じて、入力されたテキストなどをトークン(基本要素)の集合に分解する処理を行うこと。 / 機密情報などの敏感なデータを意味を持たないプレースホルダに置換する処理を行うこと。
このボタンはなに?

構文解析の前に、コンパイラはソースコードを構文解析のためにトークンの列に変換します。

present singular third-person

participle present

participle past

past

Dictionary quizzes to help you remember vocabulary

編集履歴(0)

ログイン / 新規登録

 

アプリをダウンロード!
DiQt

DiQt(ディクト)

無料

★★★★★★★★★★