Peut-on encore savoir si c'est de l'IA ? - Carnets de route #2

La réponse est compliquée.

Bonjour !

Cette semaine, j’ai été mis en échec.

Mais la bonne nouvelle, c’est que j’en ai tiré quelques leçons que je voudrais partager avec toi.

Tu as sans doute déjà vécu ce moment en promenant ton cerveau sur les médias sociaux : “mmmh, mais c’est de l’IA ou c’est réel ?”

L’histoire que je vais te raconter est intéressante parce qu’elle ne répond justement pas à cette question. Elle en pose une autre.

Bienvenue dans la deuxième édition de mes carnets de route.

Je suis Benoît Raphaël, et avec Thomas Mahier (ingénieur en IA) et Jeff (notre agent IA), je t'aide à mieux comprendre et maîtriser l’intelligence artificielle.

Retrouve chaque semaine mes carnets de route dans lesquels je partage nos trouvailles et nos réflexions. Et un dossier complet tous les mois.

Si on t’a transféré cette lettre, abonne-toi ici.

Si tu es abonné(e) et que tu souhaites te désabonner, pas de panique ! Va en bas cette lettre et clique sur le lien “vous désabonner ici”.

Nous te proposons aussi des formations, des bootcamps et des séances de coaching pour aller plus loin.

🤓 Aujourd’hui, voici ce que tu vas apprendre dans ces carnets de route :

  • Ce que les deepfakes nous disent sur le monde et comment les détecter (ou pas)

  • Peut-on quitter ChatGPT pour Claude ou pour Gemini quand on est créateur d’images ? Je réponds à Charlène !

  • Comment créer une chanson à succés avec l’IA.

  • 🥳 Et je t’annonce une grande nouvelle ! Nous lançons “Génération IA Entreprise”. Sa mission : aider les entreprises à lutter contre un problème dont peu de personnes n’osent parler dans le milieu de l’IA.

C’est de l’IA ou bien ?

Il y a quelques jours, une amie abonnée m’envoie un message sur WhatsApp.

Coucou, tu sais si ce compte est une IA ?

Marie

Ce n’est pas la première fois qu’on me pose ce genre de questions. Et certainement pas la dernière. Cette fois, il s’agissait du compte Instagram d’une “influenceuse”. Elle publie des videos d’elle en noir et blanc, dans lesquelles elle parle de relations amoureuses et de toxicité. 18.000 abonnés.

J’ai été incapable de lui répondre. Et ce n’est pas faute d’avoir essayé. Mais ce que j’ai découvert en chemin est beaucoup plus intéressant.

@bbh.psychocriminologue (Brune Bourgeois de Henessy) se présente comme "Docteure en psycho-criminologie", un titre qui ne correspond à aucun intitulé universitaire standard. Elle donne même le numéro SIRET de son entreprise. Ses videos sont gratuites, mais elle propose un lien vers une plateforme de monétisation (Stan Store) sur laquelle elle vend des analyses comportementales amoureuses à 180 euros via des vocaux envoyés par WhatsApp. Le mail affiché n’est pas professionnel (une adresse proton.mail) et il faut payer avec Paypal.

Même si le compte affiche un badge “vérifié” par Meta, le panneau “alerte rouge” qui veille dans ma tête clignote frénétiquement.

Le 4 avril 2026, @bbh.psychocriminologue publie un post annonçant qu'elle quitte Instagram parce qu'une personne contacte ses abonnés pour la faire passer pour une arnaque.

Alors… IA ou pas ? Et surtout… que faire quand tu te poses la question ?

Alors j’ai commencé par passer ses photos au filtre d’un détecteur d’IA assez intéressant. Media Whisperer est une plateforme néerlandaise qui propose aux journalistes (dont la BBC) de croiser les analyses de plusieurs outils de vérification pour savoir si oui ou non la photo a été générée par une IA. C’est intéressant parce que ces outils IA font parfois ce qu’on appelle des “faux positifs” ou “faux négatifs”, donc hybrider plusieurs d’entre-eux permet d’obtenir une vision plus solide.

Verdict sur la photo 1 : c’est de l’IA.

Mais sur une seconde photo, plus réaliste, le verdict n’est plus du tout le même.

Comme je suis un peu parano sur le sujet, je me dis que ça peut aussi être une vraie photo sur laquelle on aurait fait un “face swap” (changement de visage). Une astuce qui peut tromper le détecteur, parce que l’IA analyse l’ensemble de l’image.

Passons aux vidéos. Je les regarde, et j’écoute sa voix, à la recherche de signes robotiques. J’avais déjà publié ici une petite méthode pas du tout infaillible pour détecter les fausses videos sur Internet, tout en précisant que c’était de plus en plus difficile, surtout quand elles sont générées à partir d’images fixes.

J’ajoutais fallait partir du principe que, désormais, toutes les images diffusées sur les médias sociaux devaient être considérées comme fausses a priori.

Sur les vidéos de cette influenceuse, j’ai noté deux choses :

  • L’emploi de filtres lourds systématiques (grain dans l’image, effet “vieux film”, noir et blanc…) : ces effets masquent les petits défauts de texture que la génération IA produit habituellement en arrière-plan.

  • Son comportement : le corps bouge peu, ses phrases sont courtes avec des pauses, ce qui pourrait être la conséquence d’un avatar IA (il faut parfois générer chaque phrase pour que l’audio IA tienne sur la durée). Mais elle pourrait aussi parler comme ça dans la vraie vie.

Mais surtout, c’est son discours qui m’a interpellé. Typique de celui des modèles de langage. La pensée semble brillante en surface, mais elle est creuse en profondeur. Tout a déjà été entendu 1000 fois, aucune information nouvelle.

Je note aussi l’usage abusif de phrases du type “Ce n’est pas ceci, c’est cela”. On appelle ça des constructions antithétiques (Pas X,Y), et c’est un marqueur fort du langage IA.

Enfin, son visage est également typique d’un visage généré par IA, en particulier par certains modèles comme Flux : des pommettes et des lèvres botoxées, et le nez en trompette.

Alors ?

Alors rien.

Peut-être que c’est une humaine qui ressemble à un avatar IA et qui parle comme une IA.

Peut-être que c’est une humaine qui s’est avatarisée (c’est à dire qui a créé un clone de son visage et de sa voix avec l’IA pour automatiser ses posts), peut-être qu’elle lit avec sa vraie voix un texte écrit par l’IA… Peut-être que tout est faux.

Alors j’ai décidé de prendre le problème à l’envers. Je me suis amusé à essayer de reproduire ce qu’elle faisait avec l’IA.

Je suis allé sur Higgsfield, l’une des plateformes les plus populaires de génération de video avec l’IA. Elle a beaucoup évolué depuis ma dernière visite. Elle rassemble les derniers modèles de vidéo IA et propose un arsenal complet : clonage de voix, voix synthétiques, création d'avatars, face-swap, synchronisation labiale, modification de détails dans une vidéo existante. C'est à la fois un outil de création puissant et, de fait, une boîte à outils de deepfake.

Explorer Higgsfield, c'est voir l'état de l'art de ce qui est faisable aujourd'hui. Pour quiconque veut aiguiser son esprit critique sur les vidéos qu'il voit passer, c'est un exercice utile : quand on sait ce qui est possible, on regarde autrement.

En 10 minutes j’avais une video de mon influenceuse lisant un texte avec une voix, en français, hyper réaliste. J’ai même pu rajouter les bruits de la mer en arrière plan.

Cet exercice n’a pas répondu à ma question, mais il m’a permis de savoir que, vraies ou pas, les vidéos de “bbh.psychocriminologue” auraient pu tout à fait être générées par une boîte à outils d’IA.

Ce qui est tout aussi perturbant, c’est que cette personne est peut-être également réelle.

Il y a un mot pour cela : la “uncanny convergence”. Une convergence étrange sur les médias sociaux. Le Botox, les filtres, le lissage des traits rapprochent les vrais visages de l'esthétique IA. Chacun alimente l’autre. Les deux convergent au milieu.

La fonctionnalité “Soul” de Higgsfield est un marqueur de l’époque. On entre des photos de soi, on se crée un avatar vidéo optimisé, avec un "AI glow", un vernis qui peut paraître plus réel que le réel parce que c'est devenu la norme esthétique.

Elle ressemble à une IA. Peut-être parce que c'en est une. Peut-être parce que les humains finissent par ressembler à ce qu'ils voient sur Internet.

Pratique : au-delà de “Media Whisperer” pour les photos, si tu veux détecter du texte écrit par IA, tu peux essayer GPTZero.

Le Netflix de l’IA ?

En explorant la plateforme Higgsfield, j’ai donc découvert un univers à la fois excitant et dérangeant.

Mais au-delà de leurs outils, leur dernière initiative mérite que je t’en dise quelques mots. Elle permet enfin de toucher du doigt la révolution en cours dans la production audiovisuelle.

Avec HiggsFlied Original Series, la plateforme propose des pilotes de séries IA, générés avec le modèle chinois Seedance 2.0, avec l'ambition affichée de concurrencer Netflix sur des productions de fiction générées par IA. Les productions de fiction moyenne ou longue commencent à être crédibles.

Ce qui m’a le plus marqué dans le pilote de leur première série, “Arena Zero”, (visible aussi sur YouTube), c’est l’émergence d’une esthétique propre. Une sorte de fantaisie hallucinée (sinon hallucinogène) et des effets spéciaux que seule l’IA sait produire. Ça fait "très IA", mais dans le bon sens. Des codes visuels propres commencent à se former. On assiste à la naissance d'une pop culture IA, avec ses conventions, ses marqueurs, son langage visuel.

Pratique : tu peux aussi découvrir les tutoriels de Higgsfield et les coulisses de la création de leur série originale. Adil, le réalisateur, explique : “L’outil est important, mais les personnes aux commandes de cet outil le sont encore plus”. Ce n’est pas l’IA qui a imaginé la série, mais les humains. Ils ont juste utilisé des outils différents des autres réalisateurs.

Notre nouveau projet pour t’aider à lutter contre le “workslop” en entreprise

De gauche à droite : Benoît Raphaël (le boss), Detsouvan Soum (le pro), Thomas Mahier (l’ingénieur).
Ah oui, comme on avait du mal à trouver un chouette endroit pour la photo de groupe, on a demandé à l’IA de jouer les photographes.

Alors avant de t’expliquer ce que veut dire ce mystérieux mot, “workslop”, je voudrais te dire que suis assez excité par ce nouveau projet.

C'est le résultat d'une réflexion issue de nos échanges avec de nombreuses entreprises.

Et d'une rencontre : Detsouvan Soum, un jeune prodige qui a déjà formé 12 000 personnes, et avec qui on a travaillé avec succès sur notre bootcamp n8n sur l’automatisation IA. Il partage nos valeurs, notre souci de ne pas vendre du baratin, et il est aussi perfectionniste que nous… ce qui ne nous a pas facilité la tâche au début!

Le résultat s'appelle "Génération IA Entreprise". Nous en avons confié la responsabilité à Detsouvan.

La plupart des formations IA en entreprise te vendent soit de la peur ("Adopte l'IA avant qu’elle ne te remplace !"), soit de la magie clé-en-main, comme si l'IA était un logiciel dont il suffirait de connaître le mode d'emploi. Or l'IA n'est pas un outil. C'est un collaborateur bizarre. Et l'aborder autrement met en danger ton entreprise.

Le danger a un nom : le workslop. Retiens ce mot, tu vas beaucoup en entendre parler. C'est du contenu généré par IA qui se fait passer pour du bon travail mais qui manque de substance. L'expéditeur croit gagner du temps, le destinataire en perd. Tout le monde est en surcharge.

Une étude BetterUp Labs et Stanford de septembre 2025 a chiffré le coût : 186$ par mois par personne de productivité perdue. 9 millions de dollars par an pour une organisation de 10 000 employés.

Il existe des méthodes pour contrer ça. Crois-en notre expérience : l'IA peut augmenter la productivité ET la qualité du travail, mais ça ne se fait pas tout seul. Il faut comprendre où mettre l'humain dans la boucle, et avec quels process.

J'ai mis tout cela dans une page qui explique notre approche en détail. J'ai essayé de la rendre la plus informative et utile possible. Si ça te parle, tu pourras réserver un échange de 25 minutes avec Detsouvan et moi pour discuter de tes problématiques. Les places sont limitées : pas plus 10 entreprises pour ce lancement.

L’erreur fatale de la banalisation

L'envie de banaliser l'IA est compréhensible. Les dirigeants sont formés à normaliser les nouvelles technologies et à les ranger dans des catégories connues. L'IA devient alors un moteur de logique floue intégré à un processus, ou un outil qui fait gagner quelques minutes sur une tâche. Une technologie ordinaire appelle un déploiement ordinaire, du type : « 90 % des collaborateurs doivent utiliser le nouveau logiciel chaque semaine. »
Mais quand on fixe ce genre d'objectif pour l'IA, que se passe-t-il concrètement ? Les employés s'en servent pour transcrire des réunions ou produire un flot ininterrompu de « workslop » sous forme de dizaines de notes et de PowerPoints supplémentaires. Traiter cette technologie comme un déploiement logiciel de plus, c'est comme recevoir un mystérieux artefact extraterrestre et s'en servir immédiatement comme presse-papiers.
Le réflexe de banalisation produit un deuxième échec, plus profond : il pousse les entreprises à privilégier l'automatisation plutôt que l'augmentation des capacités humaines.

Comment créer une chanson à succés avec l’IA en moins d’une heure ?

Dans ce reportage très pédagogique, un journaliste du Monde est parti à la rencontre des nouveaux faiseurs de stars. Des anonymes qui ont généré leur artiste et leurs chansons en utilisant exclusivement l’intelligence artificielle.

Le journaliste a tenté de créer son propre artiste avec un producteur de musique IA, et il nous montre comment il a fait. Très utile.

Il utilise d’abord Gemini pour déterminer le style, les paroles et les images. Puis Suno pour la musique et le chant, dont la dernière version te permet même d’utiliser ta propre voix ou tes démos, afin de générer des créations hybrides. Et enfin, la plateforme, Distrokid te permet de diffuser ton titre sur toutes les plateformes.

J’ai appris également qu’il ne suffit pas de publier pour avoir du succès. Derrière les plus gros hits, il y a souvent une stratégie marketing bien rodée.

Selon une étude de Deezer, 97% des gens sont incapables de faire la différence entre une chanson générée par l’IA et une chanson humaine.

Exercice critique

Pour voir si tu as bien suivi le début de cette lettre, je te propose un petit test.

Comment savoir si cette image est généré par l’IA ? Vas-tu trouver ? Il y a des indices.

Instagram Post

(Merci à Marie pour le lien ! Il m’a quand même fallu 2 minutes pour comprendre… fichus biais cognitifs !)

Pratique : on appelle cet exercice celui du “gorille invisible”, il explique en partie pourquoi on peut se laisser berner par les images IA à cause de la “cécité attentionnelle”. Si tu veux en savoir plus il y a ce livre passionnant qui est à l’origine de la théorie. Et cet article qui explique pourquoi les radiologues sont mieux armés que les autres.

💔 Quitter ChatGPT ?

Hier, Charlène m’a envoyé ce mail de rupture… avec ChatGPT.

Je suis toujours dans le projet, plus ou moins vague, de migrer de chatGPT vers Claude, je me pose des questions sur ce que j'abandonnerais en quittant la version payante de ChatGPT. J'ai notamment pensé à l'analyse et la génération d'images que j'utilise dans le cadre de ma pratique de la peinture. Globalement le dialogue avec l'IA m'aide à construire progressivement mon style.

Voici mes besoins essentiels :

  • Analyse d'images approfondie : au-delà d'une simple description (composition, couleurs, geste, style).

  • Analyse de mon style dans le temps : capacité à identifier des constantes et une "signature visuelle" sur plusieurs œuvres.

  • Conseils d'amélioration personnalisés : concrets, directement applicables, et adaptés à mon style (pas génériques).

  • Génération d'images cohérentes avec mon travail : par exemple pour proposer une version améliorée ou finaliser une zone du tableau dans mon style.

  • Dialogue approfondi : échanges nuancés, capables d'aller loin dans l'analyse artistique.

  • Continuité : éviter de repartir de zéro à chaque conversation.

Mon usage repose sur un cycle itératif : j'envoie une image → j'obtiens une analyse → je demande des pistes d'amélioration → parfois une génération visuelle → puis j'ajuste.

Charlène

Voici ma réponse :

Par rapport à ce que tu fais, je ne vois pas bien l'intérêt de quitter ChatGPT, sauf si tu as d'autres raisons. La seule autre plateforme qui permet d'associer dialogue de qualité et création d'images, voire édition d'images, est Gemini de Google.

Le seul problème avec Gemini, c'est que tes conversations avec l'IA sont utilisées et stockées par Google pour entraîner son IA, même avec un compte payant. Tu peux désactiver cette fonctionnalité mais tu perdras l'historique de tes conversations.

En revanche, Gemini a désormais une mémoire, ce qui te permet de conserver une forme de suivi d'une conversation à l'autre (il ne se souvient pas de tout, mais les infos qu'il récolte sur toi lui permettent d'avoir du contexte).

Mais si la confidentialité est importante pour toi, je te recommande de conserver ChatGPT. Travaille plutôt dans un “projet”, la fonctionnalité mémoire sera plus ciblée sur tes conversations dans ce projet.

Si tu tiens à aller sur Claude, tu peux lui faire analyser tes images et te demander de produire des prompts pour les faire générer par Gemini par exemple, puis de lui montrer le résultat.

Et si tu utilises Claude Cowork ou Claude Code, tu pourras même le connecter à des générateurs d’images avec la technologie MCP. Mais c’est un peu plus technique !

C’est tout pour aujourd’hui, j’espère que ça t’a été utile ! Dis moi ce que tu en as pensé en répondant à ce mail ! Et n’hésite pas à me poser des questions. J’y répondrai ici.

❤️ Benoît

PS : Je suis bien arrivé à Bali, aprés toutes mes péripéties ! J’ai enfin retrouvé mes 6 heures matinales de travail profond, grâce au décalage horaire. Loin de l’agitation parisienne. Si tu passes par là, fais moi signe !