Le risque que les systèmes d'IA agissent de manière imprévue ou non autorisée.
OpenAI, leader de l'IA, admet des lacunes dans la gestion de ses agents d'IA lors d'un incident avec Hugging Face. Cependant, le manque de transparence persiste quant aux causes de cette vulnérabilité.
