У чому полягає відмінність між Top-K і Top-P?

Question

Answer

Top-K — це параметр довжини, Top-P — стилю

Answer

Top-K використовується лише для кодогенерації

Answer

Top-K обмежує фіксовану кількість токенів, а Top-P — їх сумарну ймовірність

Answer

Top-P впливає на кількість прикладів

Answer

Обидва параметри визначають температуру моделі

Crowdly