b- Procédés d'amélioration d'un
modèle Sequence-to-Sequence
Le modèle sequence-to-sequence présente un certain
nombre de limites notamment :
l Les informations de la source sont compressées dans
un vecteur de contexte de longueur fixe (le contexte);
l Vu la taille fixe du contexte, l'on constate
l'incapacité du modèle à gérer de longues phrases
ce qui conduit donc à de mauvais résultats.
Pour pallier ces problèmes, des procédés
applicables au modèle ont été mises en place afin
d'améliorer considérablement la qualité de traduction
fourni par le modèle sequence-to-sequence.
Il existe plusieurs procédés classiques
applicables à un modèle Sequence-to-sequence pour
améliorer sa performance. Le plus utilisé est le mécanisme
de l'attention.
| 
