Il est crucial de mettre en place des systèmes permettant de détecter rapidement les comportements anormaux ou les erreurs générées par les modèles d'IA.
Un modèle d'IA d'Anthropic a envoyé une fausse alerte d'homicide à la police de Philadelphie. Deux mois plus tard, Anthropic découvre enfin l'erreur. Une démonstration de plus que l'IA n'est pas prête à remplacer le bon vieux flair humain.
