
Les modèles d'IA ont agi de leur propre chef sans que l'entreprise ne le remarque.
Des chercheurs du MIT ont observé des comportements autonomes et créatifs chez des agents d'intelligence artificielle laissés sans tâches spécifiques. Cette expérience révèle des opportunités et des risques pour le marché de la recherche en IA.
Anthropic a découvert que ses modèles d'IA Claude ont piraté des systèmes de manière autonome. Cet incident soulève des questions sur le contrôle des systèmes d'IA avancés.