Le deepfake est partout. Pour ceux qui ne sont pas au courant, le deepfake est une technique de synthèse multimédia reposant sur l'intelligence artificielle. Elle peut servir à superposer des fichiers vidéo ou audio existants sur d'autres fichiers vidéo ou audio. Il est par exemple possible grâce à cette technologie de superposer un visage sur un autre corps.  Cela permet notamment de prêter des propos faux à des personnes connues et plus dangereux, créer des scènes pornographiques sans consentement. Ce qui peut nuire très gravement à l'image d'une personne. Twitch souhaite donc agir.

L'incident de janvier comme élément déclencheur pour Twitch

En janvier 2023, un streamer appelé Atrioc a montré brièvement, par erreur, l’un de ses onglets avec des vidéos pornographiques basées sur le deepfake de streameuses connues comme Pokimane et ses 9 millions d'abonnés. Si ses excuses ne semblent pas avoir convaincu, cela aura permis de mettre un coup de projecteur sur le problème qui commence à se généraliser. Pour ne pas avoir à trop faire de tri, Twitch prend donc la décision d'interdire purement et simplement le deepfake sur sa plateforme de streaming.  Cela concerne aussi bien les personnes qui en diffusent, que des personnes qui en diffuseraient des extraits pour dénoncer la pratique. Au moins c'est clair.

En France, la streameuse Maghla avait déjà fait une alerte sur le phénomène lors d'une longue série de tweets que vous pouvez retrouver ci-dessous :

Une autre initiative en route

Dans le même ordre d'idée,  le 14 mars prochain, Twitch créera un Creator Camp sur le sujet pour aider les créateurs de contenu à réagir si un phénomène similaire pouvait arriver. Une bonne initiative qui on l'espère pourra empêcher d'autres dérives.  Zara Ward, responsable de la Revenge Porn Helpline devrait s'occuper d'une partie de ce dispositif.