Используется специальный нелинейный алгоритм обучения

К исходным признакам добавляются их степени (x², x³, ..., xⁿ), после чего применяется обычная линейная регрессия в расширенном пространстве

Модель строит несколько линейных регрессий для разных диапазонов X

Применяется специальная нелинейная функция потерь

Тестовые данные не нуждаются в нормализации

Применить уже обученный scaler через метод transform() к тестовым данным

Создать новый StandardScaler и обучить его на тестовых данных

Использовать метод fit_transform() для тестовых данных

Когда нужно автоматически исключить часть признаков из модели

Когда нужна стабилизация модели, но все признаки значимы

Когда много коррелированных признаков (мультиколлинеарность)

Когда данных очень мало и нужна разреженная модель

Неспособность работать с числовыми данными

Чувствительность к шуму и выбросам

Медленные предсказания — расстояния считаются до всех объектов при каждом запросе

Большое потребление памяти — нужно хранить все обучающие данные

Спирмен, так как данные порядковые и не предполагают нормального распределения

Пирсон, так как он точнее для малых выборок

Пирсон, так как шкала содержит числа от 1 до 5

Никакой — корреляцию нельзя вычислить для порядковых данных

r = 0.50

r = 1.00

r = -1.00

r = 0.00

Каждое дерево обучается на одних и тех же данных

Итоговый ответ — голосование (классификация) или усреднение (регрессия) всех деревьев

Обучает множество деревьев на случайных подвыборках данных с возвращением (bootstrap)

При каждом разбиении используется случайное подмножество признаков

Недообучение — модель слишком проста

Переобучение — модель начинает запоминать шум вместо закономерностей

Увеличение скорости обучения

Плохая экстраполяция за пределами диапазона обучающих данных

MCAR — Missing Completely At Random

Систематическое удаление данных

MAR — Missing At Random

MNAR — Missing Not At Random

XGBoost с глубокими деревьями

Линейную регрессию

SVM с RBF ядром

Дерево решений