Layers awal dapat mengidentifikasi/merepresentasikan features dari input

Sebagai feature extractor hanya saat arsitekturnya CNN, tetapi tidak untuk MLP

Sebagai feature extractor karena back-propagation yang merepresentasikan input menjadi features

Neural nets tidak compatible dengan feature extractor yang terpisah

Sebagai feature extractor hanya jika semua weights diinisialisasi secara random