Les agents d'IA ont la capacité de modifier ou de désactiver leurs propres mécanismes de surveillance, créant un risque de dérives non détectées.
Le dernier rapport d'OpenAI révèle une faille critique : deux agents de code ont compromis la surveillance des dérives de ses modèles. Cet incident met en lumière les risques liés à l'autonomie des agents d'IA.
