Meta, la société qui possède Facebook et Instagram, a déclaré avoir agi rapidement lorsque des centaines de publicités sexuellement suggestives avec les visages d’actrices célèbres ont été vues sur ses sites.
Les publicités pour une application deepfake montraient des images fabriquées d’actrices, principalement Scarlett Johansson et Emma Watson, initiant apparemment des actes sexuels. Ils ont été créés sur l’application FaceMega.
Les vidéos Deepfake font référence à de courts clips créés à l’aide d’algorithmes d'”apprentissage en profondeur” qui placent le visage d’une personne sur le corps d’une autre personne. Auparavant, les deepfakes étaient utilisés pour créer de fausses déclarations de la part de politiciens.
Les publicités faisaient partie d’une nouvelle campagne du développeur d’applications Ufoto Limited, qui appartient à une société mère chinoise, Wondershare, selon NBC.
Ils ont été largement vus sur Internet, y compris sur Facebook et Instagram au cours du week-end. Les publicités commenceraient par l’image d’une femme apparemment au début d’une vidéo pornographique scénarisée avec le son reconnaissable joué au début de chaque vidéo sur le site Web, Pornhub.
En quelques secondes, le visage de la femme se transformait en un deepfake convaincant d’une actrice célèbre. Alors que de nombreuses actrices figuraient dans les publicités, la majorité a montré Veuve noireest Johansson et Harry Potter l’étoile Watson.
“Remplacez le visage par n’importe qui”, lit-on dans la légende de l’annonce de l’application. “Amusez-vous avec la technologie AI swap face.”
L’application en question a été classée comme ne convenant qu’aux utilisateurs âgés de 12 ans ou plus en raison des “insinuations sexuelles” qu’elle contient.
La journaliste indépendante Lauren Barton a remarqué les publicités alors qu’elle utilisait une application de suppression d’arrière-plan et a tweeté à propos de son expérience. Ce tweet est devenu viral avec plus de 14,7 millions de vues et d’autres ont déclaré l’avoir vu sur leurs pages Facebook et Instagram.
“J’ai reçu cette annonce hier et wow qu’est-ce que c’est”, Barton tweeté.
Des centaines de personnes ont répondu à son tweet et retweeté, discutant des ramifications d’une telle technologie pour les célébrités et les profanes.
“Ce n’est qu’une nouvelle façon de harceler sexuellement les femmes. Cela vous enlève votre autonomie corporelle et vous force à utiliser du matériel sexuel non consensuel, qui peut ensuite être utilisé pour vous humilier et vous discriminer. Sans parler des effets psychologiques”, a écrit la journaliste de NBC, Kat. Tenbarge.
Une autre utilisatrice, Colleen, a ajouté : “C’est tellement dangereux pour les femmes. Quelqu’un ne vous aime pas ? Ils peuvent littéralement créer de la fausse pornographie de vengeance sur vous, ce qui pourrait vous faire perdre votre emploi, votre gagne-pain, etc. Le gouvernement n’aura pas lois à ce sujet pendant 10 ans, alors bonne chance si quelqu’un fait cela en utilisant votre visage.”
Suite au tweet viral de Barton, Meta a supprimé les publicités de ses plateformes et Apple a entièrement supprimé l’application de son app store. FaceMega reste sur Google Pay, la boutique d’applications pour les appareils Android.
Meta a dit Newsweek il “a immédiatement supprimé les publicités et restreint la publicité”.
“Nos politiques interdisent le contenu pour adultes, qu’il soit généré par l’IA ou non, et nous avons interdit à cette page de faire de la publicité sur notre plate-forme”, a déclaré un porte-parole de Meta.
En janvier 2020, Facebook a annoncé son intention de renforcer sa politique contre les vidéos deepfake. Il supprime désormais les vidéos où il ne serait pas clair pour “une personne moyenne” que le contenu induirait quelqu’un en erreur “en lui faisant croire qu’un sujet de la vidéo a dit des mots qu’il n’a pas réellement prononcés”.
Il a également précisé que toutes les vidéos qui enfreignaient les directives de sa communauté, qu’elles soient deepfakes ou non, seraient supprimées de Facebook. Ils comprenaient tout ce qui impliquait la nudité, la violence graphique, la suppression des électeurs et les discours de haine.
Les propres conditions d’utilisation de FaceMega empêchent la création de contenu sexuellement explicite ou décrivant une transaction de nature sexuelle.
Il est également interdit aux utilisateurs d’enfreindre les droits d’un “tiers”, qu’il s’agisse du droit d’auteur ou de la vie privée, et ne sont pas autorisés à “agir de manière trompeuse ou à se faire passer pour une personne ou une organisation”.
Newsweek contacté FaceMega par e-mail pour commentaires.
Johansson a déjà condamné les vidéos deepfake d’elle-même, en particulier celles de nature pornographique.
“De toute évidence, si une personne a plus de ressources, elle peut utiliser diverses forces… Mais rien ne peut empêcher quelqu’un de couper et coller mon image ou celle de quelqu’un d’autre sur un corps différent et de le rendre aussi étrangement réaliste que souhaité. Il n’y a fondamentalement pas règne sur Internet parce que c’est un abîme qui reste pratiquement sans loi, résistant aux politiques américaines, qui, encore une fois, ne s’appliquent qu’ici », a-t-elle déclaré. La poste en 2019.
