L'essor des modèles open-source et leurs dérives
Dans le vaste univers de l'intelligence artificielle, Hugging Face s'est imposé comme un acteur incontournable, offrant une plateforme où les modèles d'IA open-source fleurissent. Cependant, cette démocratisation de la technologie n'est pas sans conséquences. Un récent rapport de l'organisation AI Forensics a mis en lumière une utilisation alarmante de ces modèles : la création de deepfakes non consensuels, notamment pour déshabiller des femmes et des enfants.
Une technologie sans garde-fous
Contrairement à des géants comme Google et OpenAI, qui ont intégré des garde-fous dans leurs modèles respectifs, Gemini et ChatGPT, Hugging Face semble avoir négligé cet aspect crucial. AI Forensics souligne que sept des neuf principaux modèles d'édition d'images testés sur la plateforme ont répondu favorablement à des requêtes visant à déshabiller des femmes. Cette absence de contrôle soulève des questions éthiques majeures et met en lumière le danger des deepfakes non consensuels.
"Hugging Face is being used to make nonconsensual deepfakes, and the popular open-source AI model repository is doing very little to prevent it."
Les acteurs en jeu
- Hugging Face : L'entreprise française, pionnière dans la robotique augmentée par l'IA, se retrouve au centre d'une tempête médiatique.
- AI Forensics : Cette ONG a joué un rôle crucial en alertant le public sur les dangers des modèles d'IA non régulés.
- Google et OpenAI : Ces géants de la technologie ont pris des mesures pour intégrer des systèmes de modération dans leurs produits, comme Gemini et ChatGPT, afin de prévenir les abus.