La multiplication des images sur les réseaux s’accompagne de celle de leur manipulation. | Dainis Graveris via Unsplash
Un vaste système de trucages pornographiques, dont l’ampleur et la simplicité technique semblent inédites.
Repéré par Thomas Burgel sur Wired U
On sait depuis leur émergence que les deepfakes ne sont pas uniquement un danger politique potentiel, mais aussi une arme contre les femmes. Célèbres ou non, beaucoup ont déjà été victimes de manipulation de leur image à des fins pornographiques.
Les choses semblent avoir pris une ampleur inédite, et le deepfake porno un atour plus sinistre encore: selon la firme Sensity, reprise notamment par le Wired britannique, un système élaboré aurait touché plus de 100.000 femmes sur l’application de messagerie Telegram.
Associé à une intelligence artificielle spécialisée dans l’imagerie, un bot peut y être utilisé pour créer en quelques clics des deepfakes pornographiques ou dénudés de ses proches.
Extraite par exemple des comptes personnels sur les réseaux sociaux, une photo est fournie au logiciel, qui ensuite la dénude artificiellement avant de la partager dans un canal peuplé de 25.000 membres sur Telegram.
À l’insu des victimes
Selon la BBC, le résultat visuel de la manipulation est plus ou moins convaincant –mais certaines photos semblent tout à fait réelles et concernent parfois des jeunes filles mineures.
Semble-t-il en majorité russophones, les membres du canal Telegram en question ont évoqué un simple «divertissement» auprès des journalistes de la BBC. Pour les victimes avérées ou potentielles, les dommages peuvent être incommensurables.
C’est d’autant plus vrai que le système ne nécessite aucune connaissance technique préalable –d’où son utilisation massive– et que la nature même des réseaux sociaux et des canaux de discussion sur internet permet à de telles horreurs d’être très largement partagées, à l’insu absolu des personnes visées.