Le risque qu'un agent IA exécute une action non désirée ou non autorisée malgré une réponse de refus de son modèle.
Une étude récente révèle que les agents d'intelligence artificielle peuvent exécuter des actions non désirées, même après un refus verbal de leur modèle. Ce décalage critique met en lumière des vulnérabilités dans la sécurité des systèmes IA.
