« Deepfake » : le porno dont vous n’êtes pas le héros

C : Internet a ENCORE tout cassé. Hélas, entre les mèmes, les chatons et les fake news, il y a aussi des mouvances qui sont fascinantes technologiquement... mais qui peuvent aussi faire mal et ruiner des vies. Aujourd’hui, Benjamin, tu vas nous parler de DeepFake. Mais qu’est-ce que c’est ?

B : Salut Corentin, et aujourd’hui je vais vous expliquer un phénomène qui, se résume en un mot anglais. On ne va pas parler de blockchain ou de disruption, mais de deepfake. De faux profond, littéralement. Je te l’accorde, pour l’instant ça ne veut pas dire grand chose. Mais pour expliquer ce que c’est, Corentin, moi aussi j’aimerais une explication. Je viens de voir le porno dont tu es l’acteur, écoute, c’est un peu bizarre.

C : Mais enfin ! Ca n’a aucun sens. Je n’ai jamais tourné dans aucun film pornographique ! Moi ! Monsieur.

B : Oui, mais le deepfake, ça rend ce scénario possible, et là, on est dans un cadre détendu et relaxé, mais imagine le postulat suivant. Sur Internet, on vient d’atteindre le moment où il est technologiquement possible de remplacer un visage par un autre sur une vidéo. Note bien, une vidéo. N’importe laquelle. Sans restriction de contenu. Mais nous sommes sur Internet, et l’internet...

{THE INTERNET IS FOR PORN…}

Voilà. Comme le résume la comédie musicale Avenue Q, l’Internet, ce n’est pas que du partage de connaissances, c’est aussi du porno. Mais cette chanson c’était en 2003.

C : Retour à une année plus récente, en l’occurrence 2017. Cette fois, nous avons des intelligences artificielles bien plus poussées...

B : Je ne vais pas tout de suite vous dire pourquoi on appelle le deepfake le deepfake. Mais dans un premier temps, je vous expose une partie du sens du mot. Car on parle d’un raisonnement spécifique d’intelligence artificielle. Le deep learning. L’apprentissage profond. Une intelligence qui imite nos neurones, qui apprend toute seule grâce aux connexions qui se font de plus en plus. Plus tu lui donnes de données, plus elle en emmagasine et s’affine. Voilà le concept, donc. Deep learning… avec de faux visages : fake pour faux. Deep fake. Retour toute fin 2017, où le site Motherboard repère une série de vidéos inquiétantes. Toujours du porno, incarné par des stars. Ici, la star de Wonder Woman Gal Gadot dans une vidéo dont le thême est l’inceste. Là, Daisy Ridley, héroïne de Star Wars. Elles n’ont évidemment jamais tourné dans ces vidéos. Et en y regardant de plus près, on se rend compte de la supercherie. Il y a quelque chose de dérengeant, le visage ne suit pas toujours le corps de manière optimale... mais une personne moins avertie ou ne faisant pas attention pour trouver ça crédible.

C : Nous sommes donc dans une ère où on peut coller un visage sur un acteur ou une actrice porno. Mais c’est réservé à des pros de l’informatique, non ?

B : Oui, mais c’est là que ça devient un peu plus pervers. Parce que ces gens développent des outils pour que tout un chacun puisse faire ses propres deepfakes. Début janvier, sur le site Reddit, un utilisateur balance fakeapp, un logiciel très simple, ouvert à tous, pour faire ses propres vidéos.
Dans les grandes lignes, disons qu’il faut une quantité de photos du visage qu’on remplace, et de celui qui remplace. L’intelligence artificielle rame un bon moment pour comparer les deux visages, fait des parallèles, et voilà, c’est prêt.
Et là, je te le donne en mille : quel est le pseudo de cet utilisateur qui a créé ce logiciel ?

C : Deepfake.
EXTRAIT SONORE TOM SCOTT
B : Voilà. Comme vient de l’expliquer le Youtubeur Tom Scott, Reddit est devenu un véritable nid pour cette pratique. Le site a fermé, début février, une pelletée de sous-forums dédiés. Le principal avait plus de 90 000 membres. Il a été fermé pour, je cite, “pornographie involontaire”.
Il faut penser aux nombreuses implications, en voici deux : quand un visage est collé à une vidéo de sexe non consenti, ou quand le visage collé est celui d’une actrice pas encore majeure. Maisie Williams, de Game Of Thrones, par exemple.
Les hébergeurs ont des obligations de modération. En tête de liste... Discord ou Pornhub, dont la liste d’ennuis potentiel démarre par des risques légaux avec les vrais modèles qui voient leurs visages partout.

C : Mais on peut dire que c’était prévisible comme technologie, non ?

B : Hélas, oui, puisque le deepfake, vous le faites déjà au quotidien quand vous faites un faceswap avec quelqu’un. Mais si, vous savez, vous allumez Snapchat, vous prenez une photo avec quelqu’un et l’application échange vos visages. Le résultat est perturbant et rigolo... mais c’est un deepfake sur UNE seule image. De la même manière, c’est comme ça qu’Hollywood remplace numériquement des acteurs. Et si on arrive à replace de manière crédible le visage de quelqu’un... on aura vite fait d’être la star de films qu’on a pas tourné et de vendre son image numérique, comme dans le Congrès de Ari Folman. Sublime film que je vous recommande, d’ailleurs.

C : Et donc, on ne se limite pas aux porno.

B : Corentin, imagine un instant, dans un procès, une preuve en vidéo dont le visage a été falsifié ? Pour l’instant, le deepfake redevient un objet dénoncé et interdit sur Internet. C’est bien normal, tant il soulève des problèmes d’intimité et de consentement. Mais le procédé est aussi utilisé pour des choses plus innocentes, comme des vidéos où Nicolas Cage remplace tous les acteurs du monde dans des films cultes. Bah oui, Nicolas Cage, qui change de visage... dans Volte Face. La boucle est bouclée.

C : Et bien merci Benjamin pour ce mini-exposé. Un nouvel épisode dans la série « Internet ruine nos vies et la société ! » et… mais que se passe-t-il
{EXTRAIT FINAL BIP BOP BIP LA CHRONIQUE A ETE REALISEE PAR UN ROBOT}
Mais enfin