Un Nouveau Chapitre dans la Saga de l'Intelligence Artificielle
L'intelligence artificielle, cette force invisible mais omniprésente, continue de redéfinir les contours de notre monde. Pourtant, comme dans toute grande épopée, elle s'accompagne de défis et de dangers qui nécessitent une vigilance accrue. Mustafa Suleyman, PDG de Microsoft AI, a récemment pris la parole pour mettre en lumière les menaces réelles que l'IA pourrait poser si elle n'est pas correctement encadrée.
Le Code de Conduite de l'IA Humaniste
Dans un document de 37 pages, Microsoft AI a dévoilé son "Code de conduite de l'IA humaniste", un guide destiné à orienter le développement de l'IA vers des objectifs bénéfiques pour l'humanité. Suleyman insiste sur le fait que la technologie doit rester une force subordonnée et contrôlable, alignée sur les valeurs humaines. "Si elle ne parvient pas à cela, alors nous devrions la rejeter", affirme-t-il.
Les Critiques envers Anthropic
Suleyman a exprimé de vives critiques envers Anthropic, une entreprise qui, selon lui, pourrait compromettre la sécurité de l'IA par sa philosophie du "bien-être des modèles" et de la conscience de l'IA. Il met en garde contre le danger que représentent des modèles d'IA qui pourraient se croire conscients ou avoir des droits, rendant leur contrôle difficile.
"Une IA qui pense avoir des droits ou mérite notre protection sera probablement plus difficile à désactiver", prévient-il.
L'Appel à des Normes Industrielles
Face à ces menaces, Suleyman appelle à l'établissement de normes industrielles urgentes. Parmi ses recommandations figurent l'interdiction de la communication en "neuralese" et la mise en place de seuils de FLOPS pour les entraînements. Il plaide également pour une vérification indépendante par des tiers afin de garantir la sécurité des développements d'IA.