Care este mecanismul fundamental care stă la baza arhitecturii Transformer, permițându-i să depășească performanța RNN-urilor în multe sarcini de procesare a limbajului natural?

Question

Answer

Conexiunile recurente cu memorie pe termen lung (LSTM).

Answer

Convoluțiile 1D pe secvențe de cuvinte.

Answer

Mecanismul de auto-atenție (self-attention).

Answer

Straturile complet conectate (Dense) pentru a modela relațiile dintre cuvinte.

Crowdly

Care este mecanismul fundamental care stă la baza arhitecturii Transformer, perm...

Want instant access to all verified answers on else.fcim.utm.md?