Le Deep Fake ou "hypertrucage" recouvre un ensemble de pratiques et de manipulations techniques en son et en image, qui permettent de remplacer - quasi en temps réel - un visage, un corps ou une voix par un·e autre, pour produire un "enregistrement" d'un événement qui n'a jamais eu lieu. Bien que le Deep Fake se cantonne majoritairement encore dans le registre du divertissement, de la farce sur les réseaux sociaux ou de la publicité, il interroge notre rapport à l'information, au document et à la trace audiovisuelle. Pour ses détracteurs le Deep Fake serait le dernier fossoyeur d'un rapport sain et de confiance au document. Pour ses défenseurs en revanche, il serait synonyme d'une nouvelle liberté créatrice, désormais à la portée de tout internaute grâce à des applications gratuites. Entre diabolisation simpliste et techno-optimisme béat, cette conférence-débat proposera quelques portes d'entrée pour mieux comprendre les tenants et les aboutissants du Deep Fake, afin de cerner ce que l'émergence récente de cette pratique nous apprend au sujet de notre rapport à l'image aujourd'hui.

1. Jeudi, 12 mai 2022
Le Deep Fake, outil de falsification du réel ou nouvelle
ressource créative ?
Jeremy Hamers, Chargé de Cours (Études Médiatiques et
Cinématographiques, ULiège)
Gérald Holubowicz, Journaliste (Journalism.design)

2. LIEGE CREATIVE, en partenariat avec :

3. Le Deep Fake, outil de falsification
du réel ou nouvelle ressource
créative ?
Partie 1: Introduction - Jeremy HAMERS
Département Médias, culture et communication

19. 1
DEEPFAKES,
INTRODUCTION POUR LES JOURNALISTES

20. 2
GERALD HOLUBOWICZ
Mail: hello@journalism.design
Twitter perso: @gholubowicz
• Chef de produit au Groupe les Échos/Le Parisien
( précédemment à Condé Nast & Libération )
• Créateur de Journalism.design
• Également enseignant à l’EDJ de Sciences Po, à l’ESJ Pro
• Auteur & Réalisateur de The Moneyocracy project
• Producteur de Grozny:Nine Cities (Trophée Web Bayeux 2014)
• Ancien Photojournalist (15 years)
Photo:
Giulia
Pagnin
i
Je suis journaliste chef de produit, spécialisé en innovation éditoriale et je
couvre l’émergence des deepfakes et des médias synthétiques depuis début
2018 pour journalism.design

21. 3
JOURNALISM.DESIGN
Twitter J.D: @journalism_D
Quels médias, quel journalisme, quelle information
pour accompagner les mutations en cours et la
montée des réalités synthétiques ? Journalism.design
imagine le futur des médias souhaitables et observe
la montée des deepfakes et leur impact culturel.
MEMBRE DE :

22. 4
OBJECTIFS DE L’INTRODUCTION
Découvrir :
• 🔭 Ce que sont les deepfakes.
• 🔩 La technique qui se trouve derrière.
• ↗ Comment les reconnaitre.

23. 5
RÈGLES DU GROUPE
🤫 Confidentialité
👨🎓 Apprentissage
😉 Bienveillance
🗣 Participation
🙉 Écoute active

24. 6
Friedrich Nietzsche, Humain, trop Humain, 1ère partie (1878)
“Le goût du vrai disparaitra, à mesure
qu’il nous apportera moins de plaisir.”

25. 7
Le cerveau est plongé dans le noir, il ne
perçoit que ce que les sens lui montrent de
ce qui est dehors.

26. 8
Lisez vous ce texte en français ?

27. 9
Lisez vous ce texte en français ?

28. 10
Que voyez-vous ?

29. 11
Que voyez-vous ?

30. 12
Que voyez-vous ?

31. 13
Nos yeux nous trompent, il faut donc tenter
de deviner ce qui est vrai de ce qui est faux.

32. 14
Petit jeu de devinettes

33. 15
Dans la suite de portrait à venir, tentez de
trouver le véritable visage humain.

34. 16
Margaux Stéphanie
Qui est humain ?

35. 17
Margaux Stéphanie
✅
Qui est humain ?

36. 18
Ollie Sébastien
Qui est humain ?

37. 19
Ollie Sébastien
✅
Qui est humain ?

38. 20
Méline Irène
Qui est humain ?

39. 21
Méline Irène
✅
Qui est humain ?

40. 22
Mika Nicolas
Qui est humain ?

41. 23
Mika Nicolas
✅
Qui est humain ?

42. 24
Raj Ronny
Qui est humain ?

43. 25
Raj Ronny
✅
Qui est humain ?

44. 26
Helene Thran
Qui est humain ?

45. 27
Helene Thran
✅
Qui est humain ?

46. 28
Paul Benjamin
Qui est humain ?

47. 29
Paul Benjamin
Qui est humain ?
✅

48. 30
Jean Marie Lucas
Qui est humain ?

49. 31
Jean Marie Lucas
✅
✅
Qui est humain ?

50. 32
{ Deep } { Fake }
+
Pour « deep-learning », un champ de la
recherche en intelligence artificielle
Il s'appuie sur des réseaux neuronaux qui imitent
le fonctionnement de notre cerveau.
Le cadre théorique de l'apprentissage
automatique remonte aux travaux d'Alan Turing
dans les années soixante
Le Deeplearning est désormais utilisé pour la
reconnaissance d'images, la détection de
visages ou la vision robotique.
Fake signifie faux, mensonger,
trompeur.
Il est lié au phénomène des fausses nouvelles,
de la désinformation, mais ne s'y limite pas.
L’information n'est pas le seul domaine où
vous pouvez trouver des deepfakes.
Le cinéma, les communications, la
cartographie, la médecine, le
développement informatique…

51. 33
Un deepfake de Daisy Ridley ( Riley dans Starwars)
Les premiers deepfakes
sont des deep-porns

52. 34
Puis des deepfakes satiriques ou cinématographiques

53. 35

54. 36

55. 37

56. 38

57. 39

58. 40
Des « expériences » artistiques

59. 41
Un deepfake de Richard Nixon dans « in event of moon disaster »

60. 42
Un deepfake de Richard Nixon dans « in event of moon disaster »

61. 43
Des faits divers et des « coups » politiques

62. 44

63. 45

64. 46

65. 47

66. 48
Raffaela Spone, une mère de famille accusée - à tort* - d’avoir utilisé
un deepfake pour faire chanter une adolescente.
* charges abandonnées par le procureur en février 2022

67. 49
Les deepfakes deviennent facile a créer

68. 50
Qui produit des deepfakes ?
• Une communauté d’amateurs de deepfakes
• Des activistes ou des partis politiques
• Des acteurs de l’industrie du divertissement
• Des criminels

69. 51
Comment produit-on des deepfakes ?
• Différents logiciels de création sont disponibles
( DeepfaceLab, Faceswap, etc)
• Ils sont disponibles gratuitement sur Github
• Ils ont quelques limites mais couvrent les besoins
• Les meilleurs deepfakes impliquent une intervention
humaine

70. 52
Les deepfakes sont ils une menace ?

71. 53
Ma soeur
n’y croit pas

72. 54
Elle pense qu'on
peut faire
la différence

73. 55
Mon autre soeur
y croit davantage

74. 56
Tout comme
sa cousine

75. 57
Ainsi que
ma tante

76. 58
😵💫 Pourtant, il y a bien un souci…

77. 59
thispersondoesnotexist.com

78. 60
Sécurité, crédibilité, authenticité

79. 61
Katie Jones
Maisy Kinsley

80. 62
Oliver Taylor

81. 63
Irina Kerimova Vladimir Bondarenko

82. 64
Comment identifier un deepfake ?

83. 65
Une structure particulière

84. 66
• Le contour du visage est imprécis
• La limite entre le front et la base des cheveux est floue ou trop lisse
• Les reflets dans les yeux sont identiques
• Les cheveux qui passent devant le fond de l’image ont des artefacts
étranges
• Les textures ne semblent pas naturelles
• La voix est métallique
• Le flot de parole saccade par endroits, il est monotone
Caractéristiques

85. 67
Les outils de détection

86. 68
• Un problème majeur :
comme pour les antivirus, il y a un jeu du chat et de la souris.
• Un autre problème :
Ils ne sont pas efficaces (ils laissent passer les deepfakes nouveaux
très bien faits)

87. 69

88. 70
Nous devons repenser
nos méthodes, apprivoiser la technique,
renforcer notre réflexion préventive

89. 71
Bienvenue
dans la réalité
synthétique