NaifyView\Tokenizer\TokenKind クラス

TokenKind — tokenizer layer の Token Kind

source text を parser が扱える token stream として運ぶための型。 syntax error の source hint を保つため、token kind と span を一緒に扱う。

使用例

// NaifyTokenizer が source を token stream に分解する時の値 object。
// parser は TokenKind と Token を見て AST を組み立てる。

メソッド

メソッド説明