IA constitutionnelle
Terme IA
Avancé
🛡️ Sécurité et éthique
📖 Définition
L'IA constitutionnelle est une approche qui encadre le comportement d'une IA en lui donnant un ensemble de principes écrits — une sorte de constitution — qu'elle doit respecter dans toutes ses réponses. Plutôt que de s'appuyer uniquement sur des évaluateurs humains, le modèle apprend à s'autocritiquer et à réviser ses propres sorties en fonction de ces règles. Ces principes peuvent inclure l'honnêteté, le refus de contenu nuisible, le respect de la vie privée ou l'équité. C'est une méthode qui rend l'alignement de l'IA plus transparent, parce que les règles du jeu sont écrites noir sur blanc.
💬 En termes simples
C'est comme donner une « Charte des droits et libertés » à l'IA qu'elle ne doit jamais violer.
🎯 Exemple concret
La méthode utilisée par Anthropic pour empêcher son IA Claude de générer du contenu haineux.
💡 Le saviez-vous ?
On utilise souvent une autre IA pour surveiller si l'IA principale respecte bien sa « constitution ».