L’enfer du Deepfake porn : Twitch réagit enfin

Le Deepfake porn cause énormément de dégâts sur les réseaux. Ces montages pornographiques générés par intelligence artificielle sont une insulte à la dignité de la victime, qui n’a bien évidemment pas donné son consentement.

Rappelons-le : une simple photo, ou une courte vidéo, peuvent détruire la santé psychologique d’une streameuse.

Le quotidien difficile des streameuses sur Twitch

En octobre 2022, la streameuse Maghla fait preuve d’un immense courage et libère la parole. Elle révèle le harcèlement violent dont elle est victime sur Twitch et ses réseaux sociaux. Une réalité brutale et injuste subie par toutes les streameuses.

Malheureusement, elles n’ont aucun contrôle sur ces harceleurs à la « double personnalité », comme les définissait le streameur Billy.

Ils peuvent se montrer courtois sur des chaînes animées par des hommes, mais insultants et tenant des propos dégradants dans le tchat des chaînes appartenant à des femmes.

Maghla évoque des montages où son visage est ajouté numériquement à des corps nus. Ces contenus choquants et vulgaires sont partagés sans concession.

✨REDDIT✨

Y a des pages entières de gens qui font du rp sexuel en se faisant passer pour moi, font des topics entiers sur un bout de peau qui dépasse ou de trucs qu’ils trouvent hot alors que vraiment Y A RIEN
Des montages également sur des corps d’actrices porno pic.twitter.com/YK8Po8qKgn

— Maghlarnaque (@Maghla) October 24, 2022

Fin 2022, Billy avait lancé l’outil « Place de la Paix », dans l’espoir de lutter contre le cyber-harcèlement sur Twitch. Beaucoup de personnes se sont senties reconnaissantes, soulagées et prêtes à se battre contre ces violences.

Le but était de surveiller les utilisateurs au comportement inacceptable et de les signaler à une intelligence artificielle. Ils sont ensuite mis sous silence dans les tchats des chaînes participant au projet Place de la Paix.

En février 2023, les streameuses PrunetteTV, Nat Ali, Nayru, Ebibi et Joul ont lancé leur propre événement caritatif pour lutter contre les violences sexuelles et sexistes faites aux femmes. Il est intitulé FURAX et s’est déroulé le 25 et 26 février. Les streameuses ont récolté 57 367 € au profit de l’association « Elle’s Imagine’nt ». Nous saluons cette initiative.

En février 2023, la streameuse américaine QTCinderella se confiait elle aussi sur les dégâts douloureux causés par le Deepfake. Dans son live, elle est en larmes. Et jusqu’à récemment, Twitch ne proposait aucune réelle solution pour combattre ce fléau qui peut briser des vies.

La réponse de Twitch contre le Deepfake porn

Après avoir développé son outil « bouclier » fin 2022 pour protéger ses streameurs, dont l’efficacité laissait à désirer, Twitch réagit enfin au scandale du Deepfake porn et à toute la souffrance qu’il engendre.

Le 07 mars 2023, Twitch fait une annonce très attendue sur son compte Twitter. La plateforme de streaming est consciente de la polémique et de la souffrance causée par le Deepfake sur les réseaux. Ils définissent cette pratique comme étant une « violation personnelle » et déclarent vouloir protéger les streameuses de manière rapide et efficace.

Ils qualifient le deepfake porn de NCEI (synthetic non-consensual exploitative images) : cela désigne des images synthétiques exploitées sans le consentement de la victime.

Les 2 mises à jour de Twitch pour lutter contre le Deepfake

1.  Nous mettons à jour notre politique sur la violence et l’exploitation sexuelles des adultes pour clarifier que la promotion, la création ou le partage intentionnels de NCEI synthétiques peuvent entraîner une suspension à durée indéterminée dès la première infraction.
   
   
2. Nous mettons à jour notre politique sur la nudité adulte pour inclure le NCEI synthétique. Même si ce NCEI n’est montré que brièvement, ou, par exemple, montré pour exprimer votre indignation ou votre désapprobation du contenu, il sera supprimé et entraînera une mise en vigueur. 

Après avoir consulté des experts sur le NCEI, Twitch a également décidé de créer un Creator Camp afin de sensibiliser les streamers sur les dangers du NCEI, ses conséquences et comment s’en protéger. Nous aurons plus de nouvelles concernant ce Creator Camp le 14 mars 2023.

Ils terminent leur tweet en précisant que les deux mises à jour seront appliquées dès mars 2023, et qu’ils continuent leurs réflexions afin de trouver les meilleures solutions pour protéger les streameuses… Ces dernières seront les mieux placées pour s’exprimer et donner leur avis sur ces deux nouvelles mesures de Twitch.

En espérant que la plateforme devienne plus vivable pour les créatrices de contenu.