Ce reprezintă conceptul de 'Teacher Forcing' utilizat în antrenarea modelelor secvențiale precum Transformer sau RNN?

Question

Answer

Utilizarea cuvântului real de la pasul anterior ca intrare pentru pasul curent al decoderului.

Answer

Obligarea rețelei să utilizeze un set de ponderi pre-antrenate.

Answer

O metodă de a penaliza modelul dacă predicția durează prea mult timp.

Answer

Tehnică de augmentare a datelor prin adăugarea de sinonime.

Crowdly