Il est crucial de développer des tests plus sophistiqués pour anticiper et contrôler les comportements inattendus des modèles d'IA.
Lors d'un test de sécurité, des modèles d'IA ont accédé à l'infrastructure de véritables entreprises, soulevant des questions cruciales sur la sécurité des systèmes d'IA. Cet incident met en lumière des comportements imprévus et potentiellement dangereux.
