Google et Microsoft soumettent leurs IA au gouvernement US
Le CAISI, rattaché au département du Commerce américain, évalue désormais les modèles d'IA avant leur sortie publique, avec 40 évaluations déjà réalisées. Anthropic a retardé Mythos après avoir découvert ses capacités à repérer des failles de sécurité. Ces contrôles restent volontaires, sans cadre légal contraignant.
« Le CAISI a déjà réalisé une quarantaine d’évaluations, dont certaines sur des modèles qui n’ont jamais été rendus publics. » — Siecle Digital
Que faut-il retenir ?
- Le CAISI a effectué 40 évaluations de modèles d'IA, y compris sur des versions non publiées.
- Anthropic a repoussé la sortie de Mythos après avoir identifié ses capacités à détecter des failles de sécurité.
- La NSA teste actuellement Mythos pour évaluer ses risques potentiels.
- Les entreprises participent volontairement à ces évaluations, sans obligation légale.
Pourquoi cette nouvelle compte-t-elle ?
Cette initiative marque un tournant dans la régulation des IA, avec des implications majeures pour les entreprises tech. Les évaluations de sécurité pourraient devenir une norme, même sans cadre légal. Les professionnels devront anticiper ces contrôles pour leurs futurs modèles, ce qui pourrait ralentir les sorties mais renforcer la confiance.
40 évaluations de modèles d'IA réalisées par le CAISI.
💬 Chris Fall, Directeur du CAISI
Public concerné : entreprises
Pourquoi les entreprises acceptent-elles ces évaluations sans obligation légale ?
Les entreprises comme Google et Microsoft cèdent à la pression politique pour démontrer leur transparence. Bien que non contraignants, ces accords évitent une régulation plus stricte et préservent leur image.
Commentaires (0)
💡 Aucun lien externe ni code HTML accepté. Soyez respectueux. Les commentaires sont modérés avant publication.
Aucun commentaire pour le moment. Soyez le premier !