Le développement d'agents d'IA indésirables pose un risque pour la sécurité et l'intégrité des systèmes.
La startup AIUC, fondée par d'anciens employés d'Anthropic et de METR, a levé 40 millions de dollars pour développer des solutions visant à maîtriser les agents d'IA indésirables. Ce financement, mené par Ribbit Capital, marque une avancée significative dans le secteur de l'assurance.
