Admin CliCours
Exploitation d’informations riches pour guider la traduction automatique statistique
Le problème de la traduction automatique statistique
La traduction automatique statistique (TAS) consiste à résoudre le problème probabiliste suivant (Brown et al., 1990) : ebest = arg max e p(e|f) (2.1) ebest étant la meilleure traduction telle que pour la phrase à traduire f dans la langue source on ait la phrase e dans la langue cible vers laquelle on traduit. 2 Ce problème peut être décomposé en appliquant la règle de Bayes : ebest = arg max e p(f|e)p(e) (2.2) Cette décomposition fait apparaître p(f|e), soit la probabilité d’associer la phrase f avec une traduction générée automatiquement e. Cette probabilité peut être calculée via différents modèles (voir section 2.3.2), dont un modèle de traduction, qui correspond en pratique lui-même un ensemble de modèles, appris typiquement sur des corpus bilingues parallèles. Dans de tels corpus, les textes sont alignés phrase à phrase de telle sorte que les phrases du texte original sont associées avec leur traduction. 3 Les paires de phrases ainsi formées sont généralement appelées biphrases. Un exemple de corpus parallèle est présenté par la Table 2.1 pour la paire de langues anglais-français. L’équation 2.2 fait également apparaître p(e), la probabilité que la phrase e produite existe dans la langue cible vers laquelle on traduit. Si la phrase e est grammaticalement incorrecte ou plus généralement peu probable étant donné un grand corpus représentatif de la langue en question, alors la valeur de p(e) sera faible. Cette probabilité est donnée par un modèle de langue (voir la section 2.3.2.3). Le problème de la génération d’une traduction ne peut cependant pas se résumer à chercher la traduction d’une phrase présente dans un corpus bilingue. Cela reviendrait en effet à considérer que toutes les phrases qu’il est possible de former ont déjà été traduites par des humains et que nous avons accès à cette traduction. Pour tenter de résoudre ce problème, les premiers systèmes de TA statistiques découpaient la phrase en mots : on les décrit donc comme systèmes fondés sur les mots (word-based).
Alignements mot à mot
Les systèmes de traduction fondés sur les mots reposent sur la décomposition de la phrase à traduire en mots, ou plus généralement en tokens, par un traitement de tokénisation (ou segmentation en tokens) 4 . Cette segmentation permet de déterminer des alignements mot à mot tel qu’illustré par la Figure 2.1. Les modèles IBM (Brown et al., 1993) permettent de déterminer quel mot de la langue cible est aligné avec quel mot de la langue source. Il existe cinq modèles IBM 5 avec un degré de complexité croissant. Le modèle 1 considère tous les alignements possibles comme étant équi-probables, sans tenir compte de l’ordre des mots, tandis que le modèle 2 ajoute un modèle de réordonnancement basé sur la position absolue des mots dans la phrase cible et la phrase source ; les détails de ces modèles IBM sont donnés par Brown et al. (1993). En considérant par exemple le plus simple de ces modèles, le modèle 1, la probabilité p(f|e) se calcule avec la formule suivante : p(f, a|e) = ǫ (le + 1)lf Y le j=1 t(fj |ea(j)) (2.3) où lf est la longueur de la phrase f à traduire, le la longueur de la traduction e avec un alignement de chaque token ei avec chaque token fj selon la fonction d’alignement a : i → j. Le modèle de traduction estime ici la probabilité d’associer chaque mot de la phrase en langue source avec chacune de ses traductions en langue cible. Cependant, cette modélisation se confronte à divers problèmes, notamment à celui de la polysémie lexicale et de l’homographie. Dans une traduction du français vers l’anglais, si on a par exemple le mot « avocat », le système de traduction devra décider s’il le traduit par « lawyer » ou par « avocado ». En exploitant certains corpus parallèles bilingues, le modèle de traduction pourrait par exemple donner des probabilités telles que : p(lawyer|avocat) = 0.8, et p(avocado|avocat) = 0.2. Concrètement, la traduction « avocado » ne pourrait être effectivement choisie que si, en particulier, le modèle de langue p(e) avait une nette préférence pour cette traduction dans le contexte où elle est générée (voir la Table 2.2). D’autres problèmes peuvent rendre difficile l’estimation des probabilités de traduction mot à mot. Un token rare, peu observé dans les corpus parallèles utilisés, aura des probabilités de traduction peu fiables. Cette rareté peut être naturelle, notamment dans les langues morphologiquement riches où un mot peut avoir différentes formes dépendant de la fonction grammaticale qu’il occupe dans la phrase. Mais cette rareté peut être aussi la conséquence d’une mauvaise tokenization. En outre, les corpus parallèles peuvent être bruités, c’est-à-dire contenir des paires de phrases qui ne sont pas des traductions l’une de l’autre. 6 Finalement, un autre problème important concerne l’idiomaticité de certaines traductions : il est en effet souvent impossible de traduire un mot par un mot exactement. Par exemple, le mot composé « pomme de terre » se traduit en anglais par « potatoe », et plus généralement il est fréquemment nécessaire de traduire un groupe de tokens par un groupe de tokens. La traduction statistique dite fondée sur les segments (phrase-based SMT 7 ) tente d’apporter des solutions à ce problème.
La traduction automatique statistique fondée sur les segments
Les bisegments comme unités de traduction
Contrairement à la traduction fondée sur les mots, la traduction fondée sur les segments (Och et al., 1999; Och et Ney, 2003; Koehn et al., 2003) utilise comme unités de traduction des groupes de tokens dont la taille maximale est bornée 8 . Un segment peut donc capturer des éléments de contexte local, tant que ceux-ci appartiennent au segment, permettant ainsi de diminuer les risques d’ambiguïtés lexicales. Par exemple, le segment « avocat d’ affaires », si sa traduction a été correctement extraite (“business lawyer” en anglais), permet de résoudre l’ambiguïté décrite plus haut sur la traduction de « avocat ». À partir des alignements mot à mot calculés sur un corpus parallèle (voir la section 2.2), il est possible d’extraire des appariements entre segments source (segments de la phrase à traduire) et un ou plusieurs segments cible correspondant. La paire de segments associant un segment source à un segment cible est généralement appelée bisegment (biphrase). Pour chaque bisegment, un ensemble de scores peuvent être calculés, par exemple : — la probabilité de traduction directe : p(e|f) — la probabilité de traduction inverse : p(f|e) — la pondération lexicale directe : lex(e|f) — la pondération lexicale inverse : lex(f|e) La probabilité de traduction évalue la probabilité du bisegment (e, f) selon un corpus parallèle. Dans sa forme la plus simple elle est donnée par la fréquence relative dans le corpus parallèle de cette association rapportée à toutes les occurrences de f : p(e|f) = F(e, f) Σek F(ek, f) (2.4) où F(e, f) compte le nombre de fois où le bisegment (e, f) a été observé et F(ek, f) compte le nombre de fois où est observé f pour les k segments source avec lesquels il a été associé.
1 Introduction |
