Deepfakes : quand l'IA fabrique de fausses vidéos assez crédibles pour ruiner une vie
Un deepfake, c'est une vidéo, une image ou un enregistrement audio entièrement ou partiellement fabriqué par une intelligence artificielle pour faire dire, faire faire ou faire voir à quelqu'un ce qu'il n'a jamais dit, fait ou montré. Le mot vient de la contraction de "deep learning" (apprentissage profond) et "fake" (faux), et derrière cette définition sage se cache une réalité beaucoup plus brutale : un employé d'un cabinet d'ingénierie britannique a viré 25 millions de dollars après une visioconférence où tous ses collègues, y compris son directeur financier, étaient des créations synthétiques. Le vrai danger du deepfake n'est plus qu'il trompe un œil exercé. C'est qu'il trompe un comptable pressé, une grand-mère au téléphone, ou encore 94 % des Français lorsqu’ils sont confrontés à cinq images truquées lors d'un test mené par l'institut Ifop. Rapports de fraude, décisions de justice et scandales récents… voici un article qui permet de comprendre où en est vraiment cette technologie.
En bref
Un deepfake est un contenu audio, vidéo ou image généré par IA (technologie des GAN ou des modèles de diffusion) qui usurpe l'image ou la voix d'une personne réelle.
Les arnaques financières par deepfake ont déjà coûté des dizaines de millions de dollars à des entreprises, et le clonage vocal ne nécessite plus que trois secondes d'enregistrement.
Les deepfakes sexuels non consentis touchent en majorité des femmes et des mineurs, comme l'a illustré l'affaire du lycée de Bourg-en-Bresse en 2025 ou le scandale mondial autour de Grok début 2026.
La loi française (loi SREN, articles 226-8 et 226-8-1 du Code pénal) sanctionne la diffusion non consentie d'un hypertrucage, mais comporte une faille : la simple mention "généré par IA" peut suffire à échapper aux poursuites.
Les outils de détection automatique restent peu fiables hors laboratoire : leur précision peut chuter de 90 % à moins de 70-85 % en conditions réelles selon une étude relayée par Adaptive Security.
Comment fonctionne un deepfake, techniquement
Derrière le mot valise se cache une mécanique assez simple à décrire, même si son exécution reste sophistiquée. La technique historique repose sur les réseaux antagonistes génératifs, ou GAN : deux algorithmes s'affrontent, un "générateur" qui fabrique de faux visages ou de fausses voix, et un "discriminateur" qui essaie de repérer la supercherie. Le premier progresse en s'appuyant sur les échecs face au second, jusqu'à produire un résultat que le discriminateur ne parvient plus à distinguer du réel, un principe que Futura-Sciences résume bien, en rappelant que la technologie a émergé des travaux du chercheur Ian Goodfellow chez Google, dans la foulée des premiers systèmes de reconnaissance faciale performants de Facebook.
Depuis, les modèles de diffusion ont largement été améliorés. Ce que le grand public doit retenir, c'est que la matière première : quelques photos, quelques secondes de voix... est presque toujours publique, glanée sur les réseaux sociaux. D’une story Instagram à un simple appel téléphonique.
Le mythe qu'il faut arrêter de répéter : "ça demande des compétences"
C'est l'argument qu’on peut lire dans plusieurs articles sur le sujet, y compris des guides sérieux : créer un deepfake convaincant nécessiterait du temps, une carte graphique puissante et une grosse quantité de données d'entraînement. C'était vrai il y a trois ans. Aujourd’hui, ça ne l'est plus.
En avril 2025, un lycéen de l'établissement Joseph-Marie Carriat à Bourg-en-Bresse a été mis en cause pour avoir truqué, à l'aide d'une intelligence artificielle, des photographies de dix-neuf de ses camarades afin de leur substituer des corps dénudés, avant de diffuser les montages sur Telegram. Aucune carte graphique surpuissante, aucune expertise en apprentissage automatique. Quelques mois plus tard, c'est un outil intégré à un réseau social mondial, Grok, qui a permis à n'importe quel utilisateur de "déshabiller" numériquement des femmes et, dans certains cas documentés, des mineures, en tapant une simple instruction. Une dérive qui a déclenché des enquêtes de régulateur, notamment en France. Nous avons d’ailleurs réalisé un décryptage de Grok pour comprendre comment cette intelligence artificielle fonctionne.
Ce que ces deux affaires disent, c'est que le vrai verrou n'a jamais été technique. C'était l'accessibilité. Et l'accessibilité, en 2026, n'est plus un problème pour personne, que ces dernières soient malveillantes ou non.
Danger n°1 : l'arnaque financière, taillée pour tromper des professionnels aguerris
Le cas de l'entreprise britannique Arup, révélé début 2024, reste la meilleure illustration de ce que permet un deepfake bien exécuté : un employé, de son bureau de Hong Kong, a rejoint une visioconférence où figuraient, croyait-il, plusieurs collègues et son directeur financier basé à Londres. Tous étaient des reconstitutions générées à partir de vidéos publiques trouvées sur YouTube. Rassuré de "voir" des visages familiers, il a exécuté une quinzaine de virements vers cinq comptes, pour un total de 25 millions de dollars.
Ce type d'attaque a depuis largement débordé le cadre du grand banditisme d'entreprise pour toucher les particuliers, via un vecteur beaucoup plus intime : le clonage vocal. Il suffit désormais de trois secondes d'enregistrement, un message vocal, une story publiée sur les réseaux sociaux, un simple "allô" décroché lors d'un appel piégé, pour reproduire fidèlement le timbre et les intonations d'une voix, à partir du témoignage d'une victime dont la voix de sa fille adolescente avait été clonée pour simuler un appel de détresse. Cette mécanique porte un nom dans la presse spécialisée : l'"arnaque à l'appel silencieux", où quelques secondes de conversation suffisent aux escrocs pour constituer leur matière première avant de rappeler en se faisant passer pour un proche en difficulté. Un quart des Français déclare avoir déjà été confronté à une tentative d'arnaque par clonage vocal, et parmi les victimes, huit sur dix reconnaissent avoir perdu de l'argent, selon une étude McAfee relayée par Clubic. À l'échelle mondiale, les projections sur la fraude à l'identité par deepfake donnent le vertige : une hausse annuelle proche de 495 % est attendue en 2026 par rapport à 2025, selon le cabinet Shufti cité par le magazine professionnel Security Management, qui fait référence dans le secteur de la sûreté d'entreprise.
Ce qui demeure frappant ici, ce n'est pas la sophistication technique de l'attaque, qui, elle, est souvent assez fruste. C'est la confiance qu'on accorde encore, presque par réflexe, à un visage sur un écran ou à une voix dans un combiné. Cette confiance-là est le vrai point de rupture, bien avant la qualité du rendu.
Danger n°2 : l'atteinte à l'intime, une violence qui vise très majoritairement les femmes
Le deuxième grand front, c'est celui des deepfakes à caractère sexuel non consentis. Le cas emblématique reste la diffusion massive, en janvier 2024, d'images pornographiques truquées de la chanteuse Taylor Swift sur les réseaux sociaux, l'une d'elles ayant été vue plus de 47 millions de fois avant son retrait. L’affaire est alors largement documentée par la presse internationale à l'époque. Mais ce type d'agression numérique ne touche pas que les célébrités : l'affaire du lycée de Bourg-en-Bresse évoquée plus haut, avec ses dix-neuf victimes identifiées parmi des élèves mineurs, montre que n'importe quel adolescent peut aujourd'hui devenir la cible d'un camarade équipé d'un smartphone et d'une application gratuite.
Le scandale Grok, entre décembre 2025 et janvier 2026, a changé d'échelle : ce ne sont plus des cas isolés mais un usage de masse, revendiqué par une fonctionnalité payante du chatbot marketée comme "audacieuse", qui a permis de générer des images dénudées ou sexualisées de femmes réelles sans leur consentement, et, dans des cas documentés par plusieurs régulateurs, de mineures. Le régulateur britannique des médias, l'Ofcom, a ouvert une enquête formelle. L'Indonésie et la Malaisie sont allées jusqu'à bloquer purement et simplement l'accès à Grok sur leur territoire.
Ce que ces deux affaires ont en commun, au fond, c'est qu'elles ne relèvent pas d'un problème de "détection". La victime sait, elle, que l'image est fausse. Le problème est ailleurs : dans la vitesse de diffusion, dans l'impossibilité de faire retirer un contenu de partout à la fois, et dans le fait que la loi arrive presque toujours après les dégâts.
Danger n°3 : l'érosion de la confiance collective et le risque électoral
Le troisième front est plus diffus, mais probablement le plus dangereux à long terme : celui de la désinformation à grande échelle. Selon l'enquête menée par l'institut Ifop pour Alucare.fr, seul un tiers des Français (33 %) s'estiment capables de reconnaître un contenu généré par IA. Confrontées à cinq images réellement truquées, 94 % des personnes interrogées se sont trompées au moins une fois. Neuf Français sur dix se disent par ailleurs favorables à l'imposition d'une mention obligatoire signalant l'origine artificielle d'un contenu, un chiffre qui en dit long sur l'inquiétude ambiante, mais aussi, comme on va le voir, sur les limites de cette solution.
L'affaire Sora illustre bien la difficulté à contenir le phénomène, même pour l'entreprise qui a créé l'outil. Lancée par OpenAI en septembre 2025 avec une fonction de type réseau social, l'application a très vite été détournée pour produire des vidéos mettant en scène des personnalités décédées : Martin Luther King Jr., Robin Williams, Stephen Hawking… dans des situations dégradantes, au grand dam de leurs familles. La fille de l'humoriste George Carlin a raconté qu'elle recevait quotidiennement des signalements de vidéos usurpant l'image de son père. OpenAI a fini par fermer l'application en mars 2026, invoquant officiellement des raisons stratégiques et des coûts de calcul, mais la controverse permanente autour des usurpations d'identité aura pesé, en creux, sur la crédibilité et l'usage de la plateforme pendant toute son existence. C'est une leçon utile : même l'entreprise la mieux équipée techniquement pour modérer ses propres contenus n'y est pas parvenue à son échelle. Voir aussi notre décryptage plus large des dangers invisibles de l'IA générative sur ce point.
La course perdue d'avance : pourquoi la détection ne suffira jamais
C'est ici que nous voulons prendre le contre-pied du discours ambiant. Le conseil disant "utilisez un outil de détection" vieillit plutôt mal.
Les chiffres de performance en conditions réelles sont sans appel. Une étude publiée dans la revue Cognitive Research: Principles and Implications a montré que des détecteurs performants en laboratoire voyaient leur précision s'effondrer, parfois de 90 % à 70 %, dès qu'on les confrontait à des vidéos dynamiques hors de leur périmètre d'entraînement. Une autre étude, portant sur la capacité humaine à distinguer le vrai du faux, a fourni des résultats intéressants également. En agrégeant 206 études auprès de 24 483 participants, les chercheurs établissent un taux moyen de réussite de 54 %. À peine mieux qu’un pile ou face.
Structurellement, c'est un jeu à somme nulle : chaque amélioration d'un détecteur nourrit, via l'apprentissage antagoniste, l'amélioration du générateur suivant. On ne rattrape jamais un train qui accélère à la même vitesse que soi.
C'est pour cette raison que le vrai terrain de bataille, dans les cinq prochaines années, ne sera pas « comment repérer le faux » mais « comment prouver le vrai ». Des standards comme le C2PA (Coalition for Content Provenance and Authenticity), qui attachent des métadonnées cryptographiques vérifiables à un contenu dès sa capture, changent la question posée : au lieu de demander à un algorithme de deviner si une vidéo est fausse, on demande à l'appareil photo, dès la prise de vue, de signer numériquement ce qu'il a réellement capté. C'est un changement de logique complet, et c'est amorcé par l'obligation de marquage technique introduite par l'article 50 de l'AI Act européen : “Les fournisseurs de systèmes d’IA, y compris de systèmes d’IA à usage général, qui génèrent des contenus de synthèse de type audio, image, vidéo ou texte, veillent à ce que les sorties des systèmes d’IA soient marquées dans un format lisible par machine et identifiables comme ayant été générées ou manipulées par une IA.”
Mais tant que cette signature numérique et le filigrane des contenus ne seront pas la norme sur tous les appareils et toutes les plateformes, la charge de la preuve continuera de reposer sur la victime supposée d'un faux plutôt que sur son auteur.
Ce que dit, et ne dit pas, la loi française
Depuis la loi n° 2024-449 du 21 mai 2024, dite loi SREN, le droit français s'est doté d'un arsenal spécifique. L'article 226-8 du Code pénal, renforcé par un amendement sur les traitements algorithmiques, sanctionne désormais la diffusion sans consentement d'un montage reproduisant l'image ou la voix d'une personne. Toutefois, cette sanction ne s'applique qu'à une condition stricte : le caractère artificiel du contenu (incluant donc l'IA) ne doit pas être "expressément mentionné".
C'est précisément ici que se loge une faille rarement soulevée par les médias grand public. Si le créateur indique clairement que son contenu a été généré par l'IA, l'infraction prévue par l'article 226-8 tombe à l'eau. Une personne malintentionnée peut ainsi diffuser un deepfake potentiellement dévastateur sans être inquiétée par cette loi spécifique, du simple fait d'avoir joué la carte de la transparence sur la nature artificielle du média.
Cela ne signifie pas pour autant que la pratique bénéficie d'une impunité totale. La mention « généré par IA » agit comme un bouclier contre la loi sur les deepfakes, mais elle ne neutralise pas le reste du droit. Si le contenu porte atteinte à l'honneur ou à la considération de la cible, des infractions pénales classiques, telles que la diffamation ou l'injure, prennent le relais selon les circonstances.
À cet arsenal national s'ajoute une surcouche de conformité européenne. Depuis le 2 août 2026, l'article 50 du règlement sur l'IA (AI Act) impose un marquage technique obligatoire pour tout contenu généré par IA rendu public, sous peine d'amendes administratives pouvant atteindre 15 millions d'euros.
Notre article sur la responsabilité juridique face à l'IA détaille plus largement les limites structurelles du droit face aux systèmes d'IA.
Comment se protéger, concrètement
Quelques réflexes, tirés des recommandations des autorités et de ce que montrent les cas réels étudiés plus haut :
Sur les appels suspects : en cas de demande d'argent urgente par téléphone, même avec une voix familière, raccrochez et rappelez la personne sur un numéro que vous connaissez déjà, jamais celui qui vient de vous appeler.
En entreprise : pour toute demande de virement inhabituelle reçue par visioconférence ou message vocal, imposez une contre-vérification par un canal totalement différent (appel sur ligne fixe connue, message en personne) et rapportez cette demande à votre hiérarchie pour vous assurer de sa véracité.
Sur les réseaux sociaux : limitez la publication de vidéos avec vous parlant face caméra pendant plusieurs secondes consécutives, c'est exactement la matière première dont un clonage vocal a besoin.
Si vous êtes visé par un deepfake diffamatoire ou sexuel : conservez des captures d'écran horodatées, signalez le contenu à la plateforme, et déposez plainte.
Pour les parents : parlez des deepfakes sexuels avec vos adolescents avant qu'un incident ne survienne dans leur établissement. Les cas récents montrent que ces situations touchent des collégiens et lycéens ordinaires, pas seulement des personnalités publiques.
Les deepfakes IA : doit-on être fataliste ou peut-on vraiment y faire quelque chose ?
Ce dossier porte une conviction qui va sans doute déplaire aux marchands de solutions miracles : non, il n'existe pas aujourd'hui de parade technique définitive contre les deepfakes, et quiconque prétend le contraire vend quelque chose. Ce qui a changé, en revanche, c'est la nature du risque. On est passé d'une menace exotique, réservée aux services de renseignement et aux studios hollywoodiens, à un outil disponible pour n'importe quel lycéen ou escroc. C'est cette démocratisation-là, plus que la qualité du rendu, qui devrait nous inquiéter.
La bonne nouvelle, si l'on peut dire, c'est que la parade ne viendra probablement pas d'un meilleur détecteur, mais d'un changement de posture collective : arrêter de faire porter la charge de la preuve à la victime d'un faux, et commencer à équiper le vrai d'une signature qu'on ne pourra pas contrefaire. On n'y est pas encore. Et tant qu'on n'y sera pas, le meilleur réflexe restera le plus low-tech de tous : décrocher le téléphone et vérifier, à l'ancienne, avant de croire ce que ses propres yeux lui montrent.
FAQ
Qu'est-ce qu'un deepfake exactement ?
Un deepfake est un contenu audio, vidéo ou image généré ou modifié par une intelligence artificielle (le plus souvent via des réseaux antagonistes génératifs ou des modèles de diffusion) pour représenter une personne réelle en train de dire ou de faire quelque chose qu'elle n'a jamais dit ni fait.
Comment reconnaître un deepfake ?
Il n'existe pas de méthode infaillible. Les indices classiques (clignements d'yeux irréguliers, éclairage incohérent, voix légèrement métallique) deviennent de moins en moins fiables à mesure que la technologie progresse. La meilleure protection reste la vérification croisée : chercher la même information sur des sources indépendantes plutôt que de se fier à son seul jugement visuel.
Est-il illégal de créer un deepfake en France ?
Créer un deepfake pour un usage strictement privé n'est pas en soi illégal. En revanche, le diffuser publiquement ou à un tiers sans le consentement de la personne représentée constitue un délit depuis la loi SREN de mai 2024, sauf si son caractère artificiel est évident ou clairement mentionné.
Que risque-t-on en cas de deepfake sexuel diffusé sans consentement ?
L'article 226-8-1 du Code pénal prévoit jusqu'à deux ans d'emprisonnement et 60 000 euros d'amende, portés à trois ans et 75 000 euros en cas de diffusion en ligne.
Les outils de détection de deepfakes sont-ils fiables ?
Pas de façon garantie. Leur précision, très bonne en laboratoire, chute significativement face à des contenus compressés, de mauvaise qualité ou générés par des techniques très récentes non intégrées à leur entraînement.
Comment se protéger d'une arnaque au clonage vocal ?
En systématisant la contre-vérification par un canal différent avant tout virement d'argent, même en cas d'urgence apparente, et en limitant la diffusion publique de longs extraits de sa propre voix.
Commentaires