Annotation RLHF/DPO en vietnamien : ce que détecte un natif

💡 L'annotation de préférence RLHF et DPO pour le vietnamien exige un jugement natif : les six tons, le système de pronoms basé sur les relations familiales et les deux registres de vocabulaire (sino-vietnamien vs. vietnamien pur) génèrent des erreurs que les outils automatisés et les annotateurs non natifs ne détectent pas de manière fiable. Cette liste identifie précisément où la révision native est indispensable.

Qu'est-ce que l'annotation de préférence RLHF/DPO et pourquoi le vietnamien nécessite-t-il un traitement particulier ?

L'annotation de préférence RLHF pour le vietnamien consiste à recruter des annotateurs pour comparer des paires de réponses LLM au même prompt vietnamien et indiquer laquelle est meilleure (chosen) et laquelle est moins bonne (rejected). Ce dataset sert à entraîner un modèle de récompense ou, dans l'approche Direct Preference Optimization (DPO), à affiner directement le modèle de langage sans modèle de récompense séparé. Le DPO est plus pratique pour le vietnamien car il nécessite moins de données et tolère mieux le bruit d'annotation.

Le vietnamien est une langue tonale isolante : un diacritique manquant suffit à transformer une phrase en non-sens. Le mot ma a six significations selon son ton : ma (fantôme), má (mère), mà (mais), mả (tombe), mã (code), mạ (pousse de riz). Avec 85,6 millions d'internautes au Vietnam selon DataReportal, construire un LLM pour ce marché exige des données que les locuteurs natifs préféreraient réellement.

Quels six modes d'échec le jugement natif détecte-t-il que l'automatisation rate ?

Le travail d'annotation en production identifie six types d'erreurs que les annotateurs non natifs manquent systématiquement en vietnamien :

• Erreurs de ton et diacritiques : le W3C définit le caractère vietnamien ề comme une séquence de trois marques combinantes (U+0065 + U+0302 + U+0300). Une marque manquante crée un mot différent. Les vérificateurs orthographiques automatiques ne capturent pas les substitutions tonales inter-mots qui semblent correctes isolément mais sont sémantiquement incorrectes en contexte.
• Inadéquation de registre (sino-vietnamien vs. vietnamien pur) : le vietnamien formel utilise 40 à 60 % de vocabulaire sino-vietnamien (Hán Việt). Répondre à une question juridique avec kiến thức plutôt que tri thức semble incorrect aux utilisateurs juridiques natifs, même si les deux signifient connaissance. Les annotateurs non natifs ne peuvent pas préférer la réponse adaptée au registre.
• Erreurs de pronoms et formules d'adresse : le vietnamien n'a pas de vous neutre. Chaque phrase utilise un terme d'adresse basé sur les liens de parenté : bạn (pair), anh/chị (plus âgé), em (plus jeune), quý khách (client formel). Une réponse utilisant la mauvaise formule est une erreur sociale que les annotateurs non natifs ignorent complètement.
• Inadéquation de vocabulaire dialectal : le vietnamien du Nord utilise bố/mẹ pour les parents ; le vietnamien du Sud utilise ba/má. Aucun des deux n'est incorrect, mais un modèle qui utilise systématiquement un vocabulaire nordique pour des utilisateurs sudistes semble étranger. Des réviseurs natifs des deux régions sont nécessaires.
• Alternance codique non naturelle : les utilisateurs vietnamiens de la tech disent naturellement update, feature, deadline en anglais dans des phrases vietnamiennes. Un modèle qui traduit tout cela en équivalents vietnamiens, techniquement corrects mais peu usités, semble rigide. Les annotateurs natifs connaissent les normes réelles.
• Formules de politesse manquantes : le vietnamien a des formules spécifiques pour ouvrir et clore un échange de support. Une réponse qui fournit la bonne information sans la formule attendue Da, em xin phep... parait impolie dans un contexte de service client vietnamien.

Comment structurer les directives d'annotation pour les données de préférence vietnamiennes ?

Des directives efficaces pour le RLHF/DPO vietnamien doivent préciser avant le début de l'annotation :

1. Ordre de priorité des critères : exactitude factuelle en premier, puis précision tonale/diacritique, puis adéquation de registre (sino-vietnamien vs. vietnamien pur), puis correction du pronom/formule d'adresse, puis naturel et fluidité.
2. Registre par type de tâche : les tâches juridiques et médicales nécessitent un registre sino-vietnamien formel ; le support produit autorise un registre vietnamien pur informel. Précisez-le explicitement pour chaque catégorie.
3. Position dialectale : précisez si votre modèle cible le standard du Nord, du Sud ou un vietnamien neutre. Documentez les variantes lexicales acceptables par type de tâche.
4. Objectif d'accord inter-annotateurs : visez un kappa de Cohen supérieur à 0,7. Effectuez des sessions de calibrage sur des exemples partagés avant chaque nouveau type de tâche.

Ce que votre équipe peut gérer en interne, et quand un spécialiste natif vaut-il l'investissement ?

Votre équipe technique peut gérer : le format de tâche (prompt/chosen/rejected), les pré-vérifications automatisées (présence de marques tonales, complétude des phrases, ratio de longueur), la déduplication et les filtres de qualité de base.

Un spécialiste vietnamien natif vaut l'investissement à quatre points précis :

• Décisions de politique de registre : décider si votre modèle doit utiliser le sino-vietnamien formel ou le vietnamien pur courant nécessite un linguiste. Une erreur ici produit un dataset qui affine le modèle dans le mauvais registre, coûteux à corriger.
• Rédaction des directives d'annotation : des directives en anglais traduites en vietnamien par un non-natif produisent souvent des instructions ambiguës qui introduisent un biais inter-annotateurs dès le départ.
• Arbitrage des cas limites : quand deux annotateurs ne sont pas d'accord sur une paire chosen/rejected, l'arbitre doit être un locuteur natif avec une expertise du domaine concerné.
• Audits de qualité par lot : un réviseur natif sur 10 % de chaque lot détecte les erreurs de registre systématiques, les erreurs de pronoms et les formules de politesse manquantes avant qu'elles ne se propagent dans tout le dataset.

Pour les équipes construisant des données d'entraînement IA vietnamiennes de bout en bout, la page des services de données d'entraînement IA vietnamiennes couvre l'annotation de préférence native, le LQA et la révision de corpus pour les équipes francophones.

FAQ

Sources officielles

• Hugging Face Smol Course - Optimisation directe des préférences (DPO) - structure des paires de préférence, tailles minimales de dataset (1 000 spécialisé, 10 000+ robuste), principes de qualité pour les données d'alignement. Vérifié octobre 2026.
• W3C Internationalisation - Définitions des caractères, glyphes et clusters de graphèmes - le caractère vietnamien ề défini comme U+0065 + U+0302 + U+0300 ; standards de clusters de graphèmes pour le traitement de texte. Vérifié octobre 2026.
• DataReportal - Digital 2026 : Vietnam - 85,6 millions d'internautes (taux de pénétration 84,2 %), contexte d'échelle de marché pour le déploiement LLM vietnamien. Vérifié octobre 2026.
• arXiv 2510.13212 - Comprendre les données de préférence précieuses pour l'alignement LLM - la qualité des données de préférence dépend du modèle ; analyse de l'impact individuel des points de données. Vérifié octobre 2026.