NVIDIA et la Sécurité des Agents IA : OpenShell et Sentry
Le 28 septembre, NVIDIA a annoncé le lancement de l'Open Agent Safety Platform, mettant en avant OpenShell, un moteur d'exécution open source en version 0.1. Ce développement s'inscrit dans une démarche de sécurisation accrue des agents d'intelligence artificielle (IA).
OpenShell : Une Barrière de Sécurité
OpenShell est conçu pour bloquer toute action non autorisée par les règles prédéfinies, offrant ainsi un cadre robuste pour contrôler le comportement des agents IA. Cependant, son adoption n'est pas sans défis. La migration vers OpenShell impose de recréer les bacs à sable, ce qui peut engendrer des coûts en temps et en ressources pour les entreprises.
- Version actuelle : 0.1
- Fonction principale : Bloquer les actions non autorisées
- Défi : Recréation des bacs à sable nécessaire
Candidature au Programme Sandbox de la CNCF
OpenShell est candidat au programme Sandbox de la Cloud Native Computing Foundation (CNCF), bien que la majorité de ses mainteneurs soient employés par NVIDIA. Cette affiliation pourrait soulever des questions sur l'indépendance du projet.
Sentry : Un Surveillant Matériel en Attente
En parallèle, NVIDIA a présenté Sentry, un surveillant matériel basé sur le DPU BlueField-4. Bien que ce design de référence ait été dévoilé, aucun calendrier de disponibilité n'a été communiqué, laissant les entreprises dans l'attente.
- Technologie : DPU BlueField-4