Le risque spécifique que le nouveau système de Nvidia vise à prévenir, à savoir les agents d'IA s'échappant de leur confinement.
Nvidia a dévoilé un nouvel outil de sécurité open-source pour prévenir les évasions d'agents d'IA. Cette initiative répond à des incidents récents soulignant l'importance de mécanismes de contrôle robustes.
