La performance est moindre lorsque:
- Il créé un token composé
- COMMENT: Commentaire simple ou multi ligne.
- STRING: Chaine de caractère.
- Une fois un token détecté le lexer revient en arrière
et le rescanne pour détecter ses enfants (pour les espaces blancs...)
- REGULAR_EXPRESSION: Expression régulière.
- Il créé 2 tokens: Un parent et son premier enfant
A noter que les lexers retournent true
quand:
- il dépile un parent après n'avoir trouvé aucun token.
- un token est passé (skipped).