Нульова ініціалізація

Одинична ініціалізація

Випадкова ініціалізація з нормальним розподілом N(0,1)

Ініціалізація Хе (He initialization)

Ініціалізація Ксав'є (Glorot)

Додає випадковість у рух частинки

Визначає силу тяжіння до власного кращого рішення

Визначає силу тяжіння до глобального кращого рішення

Визначає швидкість зменшення популяції

Визначає, наскільки частинка зберігає попередню швидкість (інерція)

30

37

35

38

25

33

Для візуалізації структури дерев

Для визначення важливості ознак

Для зменшення глибини дерев

Для вибору функції активації

Для оцінки якості моделі без потреби у виділеній валідаційній вибірці (використовуються приклади, які не потрапили в бутстреп-вибірку)

(0.5, 0.5)

(0.3, 0.6)

(0.5, 0.4)

(0.4, 0.5)

(0.6, 0.3)

(0.25, 0.5)

Оптимізація портфеля акцій

Генерація тексту

Машинний переклад (класичний)

Прогнозування наступного елемента часового ряду

Класифікація тексту, де доступна вся послідовність (наприклад, визначення тональності всього речення)

Лінійна регресія та логістична регресія є високоінтерпретованими, оскільки ваги показують внесок кожної ознаки

Лінійна регресія та логістична регресія є високоінтерпретованими моделями

Дерева рішень менш інтерпретовані, ніж нейронні мережі

PCA є неінтерпретованим методом зниження розмірності

SVM із RBF-ядром є більш інтерпретованим, ніж лінійна регресія

Перенавчання (overfitting)

Дивергенція (divergence)

Недонавчання (underfitting)

Регуляризація (regularization)

Кластеризація (clustering)