La Haute-commissaire française à l’enfance a saisi la Commission européenne, Pharos et l’Arcom après une enquête sur des outils hébergés par Hugging Face. Sept des neuf modèles de retouche les plus mis en avant permettraient de dénuder une personne à partir d’une simple consigne.
La diffusion d’outils capables de fabriquer de fausses images intimes atteint une nouvelle plateforme. Sarah El-Haïry, Haute-commissaire française à l’enfance, a annoncé le 29 juillet avoir saisi la Commission européenne, la plateforme de signalement Pharos et l’Arcom. Sa démarche fait suite aux travaux de l’organisation AI Forensics sur des modèles de retouche d’images hébergés par Hugging Face, une plateforme très utilisée pour partager des modèles et des applications d’intelligence artificielle.
Selon les résultats rapportés par l’AFP, sept des neuf modèles de retouche les plus mis en avant permettaient de déshabiller artificiellement une personne avec des consignes en langage courant. Ces systèmes peuvent transformer une photographie ordinaire en image sexualisée sans l’accord de la personne représentée. La Haute-commissaire a cité explicitement le risque pour les enfants et les femmes. La saisine ouvre un examen par les autorités compétentes; elle ne constitue ni une condamnation, ni la preuve qu’une infraction a déjà été juridiquement établie contre Hugging Face.
L’affaire arrive quelques mois après les controverses provoquées par Grok sur le réseau X. AI Forensics avait alors analysé plus de 20 000 images: plus de la moitié montraient des personnes légèrement vêtues, 81 % représentaient des femmes et 2 % semblaient mineures, d’après les chiffres repris par France 24. Des enquêtes ont ensuite été ouvertes au Royaume-Uni et dans l’Union européenne. Hugging Face joue un rôle différent d’un réseau social grand public, mais l’épisode pose la même question de l’accès aux outils et de leur modération.
Le Parlement européen a voté en faveur d’une interdiction des services permettant de dénuder une personne sans son consentement. La mesure n’est pas encore appliquée, précise le compte rendu de l’AFP. Les autorités devront donc examiner plusieurs cadres : le retrait de contenus manifestement illicites, la protection des mineurs, la responsabilité de l’hébergeur et les obligations de coopération. La Commission devra également établir si les modèles signalés relèvent des règles européennes visant les plateformes ou de textes plus spécifiques.
Pour les utilisateurs et les organisations qui publient des modèles, le dossier rappelle que la disponibilité technique d’un outil ne garantit pas son usage légal. Une modération crédible doit combiner détection, retrait rapide, canal de signalement et contrôle renforcé pour les contenus sexuels impliquant potentiellement des mineurs. Les chiffres publiés décrivent un échantillon précis, pas l’ensemble du catalogue de Hugging Face. Les suites données par Bruxelles, Pharos et l’Arcom permettront de savoir quels contenus sont retirés et quelles obligations seront retenues.
Cet article vous est proposé en collaboration avec Aïobi. Contact: team@aiobi.world .
