Introduction
OpenAI a récemment détaillé comment ses pratiques en matière de sécurité, de sûreté et de transparence s'alignent sur le Code de pratique GPAI (General-Purpose AI) de l'Acte sur l'IA de l'UE. Cette initiative intervient alors que l'application de ce cadre réglementaire approche, soulignant l'importance de la conformité pour les entreprises opérant dans l'Union Européenne.
Mesures de Sécurité et de Transparence
OpenAI a mis en avant plusieurs mesures existantes pour garantir la sécurité et la transparence de ses modèles d'IA :
- Tests pré-lancement des modèles : Ces tests visent à identifier et à atténuer les risques potentiels avant la mise sur le marché.
- Fiches système publiées : Elles fournissent des informations détaillées sur les capacités et les limitations des modèles d'IA.
- "Red-teaming" externe : Des équipes externes sont engagées pour tester les systèmes et identifier les vulnérabilités.
- Cadres internes : Le "Preparedness Framework" et le "Frontier Governance Framework" sont utilisés pour gérer les risques des systèmes avancés et assurer la conformité légale.
Mécanismes de Transparence
Pour renforcer la transparence, OpenAI utilise :
- Content Credentials : Basés sur la norme C2PA, ces mécanismes attachent le contexte directement à un fichier, bien que la perte de métadonnées lors du transfert entre plateformes reste un défi.
- SynthID : Un mécanisme de filigrane fournissant un signal de secours pour le contenu généré par l'IA.