Вказує моделі на необхідність негайно зупинити обчислення градієнтів та завершити епоху навчання.

Визначає граматичну правильність побудови речення та автоматично виправляє орфографічні помилки.

Слугує маркером для розділення різних мов, якщо текст є багатомовним.

Агрегує контекст усього текстового виразу в один вектор, який потім зіставляється з глобальним візуальним вектором зображення.