Він виключно відповідає за форматування вихідного тексту

Він перетворює вхідний текст промпту у токени, які модель може обробляти

Він контролює, яке саме значення матиме Top_p

Він вибирає, який варіант відповіді є правильним

Знання про обмеження токенів допомагає інженерам оптимізувати промпт для його розміру та уникнути обрізання важливої інформації