Виключення temperature

Використання CoT

Модель робить крок назад, щоб сформувати ширший погляд перед конкретизацією

Модель уникає узагальнень

Автоматична перевірка

Top-K

Beam width

Top-P

Token limit

Temperature

Chain of Thought prompting

Few-shot prompting із прикладами SQL-запитів

Zero-shot prompting

Step-back prompting

Role prompting

ReAct prompting

Few-shot prompting

Chain of Thought

Zero-shot prompting

Role prompting

Вимкнення вибірки Top-P

Встановлення фіксованого temperature

Застосування зображень як підказок

Надання додаткових деталей або фону для уточнення завдання

Використання випадкових токенів

Виключення з навчання неінформативних даних

Ймовірнісне передбачення наступного токена на основі контексту

Вибір оптимального алгоритму кластеризації

Використання зворотного поширення помилки

Формування фіксованих шаблонів відповіді

“Зміни роль моделі.”

“Опиши процес CoT.”

“Згенеруй три варіанти відповіді та обери найпослідовніший.”

“Використай temperature 0.8.”

“Скороти текст.”

Різниці немає

Contextual prompting встановлює температуру

Contextual prompting застосовується лише до коду

System prompting задає загальні рамки поведінки, contextual уточнює поточне завдання

System prompting працює без контексту

Видалення помилок токенізації

Контроль за параметрами top-p

Генерація або оптимізація промптів за допомогою іншої моделі

Зміна мови запиту

Стиснення відповідей

Встановити обмеження топології

Навчити модель виявляти закономірності на основі кількох прикладів

Скоротити довжину відповіді

Визначити роль системи

Забезпечити роботу без temperature