Introduction
Google DeepMind, en collaboration avec plusieurs organisations, a annoncé un investissement de 10 millions de dollars pour financer des recherches sur les dangers potentiels liés à l'interaction de millions d'agents d'intelligence artificielle (IA) en ligne. Cette initiative souligne l'urgence de comprendre les risques associés aux systèmes multi-agents, notamment les escroqueries et les cyberattaques.
Contexte et Acteurs Principaux
Google DeepMind
Google DeepMind est à l'avant-garde de la recherche sur l'intelligence artificielle. En finançant cette étude, l'organisation vise à anticiper les risques liés à l'absence de supervision humaine dans les tâches effectuées par les agents d'IA.
Schmidt Sciences
Cette fondation philanthropique collabore avec Google DeepMind pour soutenir la recherche sur la sécurité des agents.
ARIA
L'agence britannique ARIA participe également au financement de cette recherche, soulignant l'importance de la collaboration internationale dans ce domaine.
Cooperative AI Foundation
Cette organisation à but non lucratif s'associe à Google DeepMind pour étudier les systèmes multi-agents, renforçant ainsi l'effort collectif pour comprendre et prévenir les scénarios dangereux.
Risques Identifiés
Escroqueries et Cyberattaques
Les interactions entre agents d'IA pourraient exacerber les risques de scams et de cyberattaques. Ces agents, capables de raisonner et d'improviser, peuvent être détournés par des instructions subtiles, posant ainsi des menaces significatives.