Bonjour !

J’espère que tu vas bien !

Allez, aujourd’hui, édition spéciaaaaaaaaaale ! On va “aller aux fraises” comme on dit. Alors pas pour se perdre dans la forêt en galante compagnie (c’est l’origine de l’expression). Mais pour décortiquer le lancement du nouveau modèle de ChatGPT, capable de “raisonner”. “Fraise” (strawberry) c’était son nom de code jusqu’ici. Et les spéculations les plus délirantes avaient circulé à son sujet depuis plusieurs mois jusqu’à sa sortie vendredi dernier. Comme tu vas le voir… bon… il ne va pas encore détruire l’humanité, mais il ouvre tout de même un nouveau chapitre dans le monde merveilleux des IA.

Bon, tout d’abord il faut que je te parle rapidement du début de cette saga fruitière. C’était en novembre 2023, l’agence de presse Reuters sortait un article fracassant mais faux expliquant qu’OpenAI avait développé un modèle trèèèès mystérieux et surpuissant, appelé '“Q*” (prononcer “Kiou star”) qui avait tellement fait peur aux équipes internes qu’elles avaient tenté de mettre le CEO dehors. Entre temps, le projet a changé de nom mystérieux, pour s’appeler Strawberry. Mais les spéculations ont continué de partir en sucette si j’ose dire. On serait proche de l’AGI, les services secrets américains seraient sur les startings blocks… L’AGI, je te le rappelle c’est cette idée d’”Intelligence artificielle générale”, capable d’être aussi intelligente (voir plus) que les humains. Le graal de nombreuses boîtes de la Silicon Valley, dont OpenAI.

Et puis presque un an après, Strawberry est sorti de sa barquette. Et là… ah bah c’est comme toujours avec la réalité c’est… disons… la réalité quoi.

Alors comme la fraise est petite (mais quand même super intéressante parce qu’elle va pousser…) je te propose un bref tour d’horizon pour que tu saches à quoi t’en tenir. Tu apprendras ce qui change, pourquoi c’est intéressant, comment ça marche (en gros), comment ça ne marche pas (haha, oui, aussi), quelles sources aller lire pour te renseigner sérieusement, et comment l’utiliser (ou pas).

1. C’est quoi “Strawberry” ?

Bon alors tout d’abord on ne dit plus “strawberry”, mais “o1”. C’est super moche mais c’est comme ça.

• Il faut le prononcer de cette façon : "o" comme la lettre et "1" comme le chiffre. Mais pas GPT-o1. Juste "o1". Mais tu peux dire “OpenAI o1” ou même “ChatGPT o1” puisqu'il est désormais accessible dans ChatGPT.

• Ce n'est pas exactement un nouveau modèle de langage, mais un modèle de "raisonnement" ajouté au modèle de langage actuel (GPT-4o). Une brique si tu veux.

• Cela reste un "transformer", c’est à dire un modèle de langage autorégressif (qui prédit sa réponse). Et Il est toujours susceptible de se tromper (mais beaucoup moins, selon les tests publiés dans le document technique).

2. Comment raisonne-t-il ?

Alors, ce n’est peut-être pas une révolution, mais c’est bien une avancée.

Le modèle utilise une technique bien connue : la “chaîne de pensée”. En général il fallait l’inclure dans ton prompt pour demander à ChatGPT de réfléchir étape par étape avant de te répondre. Mais là, avec o1, ce travail de “raisonnement” est intégré directement au cœur du modèle.

• Le fait d’ajouter cette nouvelle brique permet au modèle de langage de passer en “système 2”. Si tu ne connais pas ce terme, je t’explique : il a été inventé par le prix Nobel Daniel Kanheman pour théoriser les deux vitesses de la pensée humaine.

• Le système 1 englobe toutes les pensées et actions qui sont devenues des automatismes parce que basées sur ton apprentissage. Pour une IA, cet apprentissage correspond à sa phase d’entrainement (GPT veut dire “pré-entrainé”). Ses réponses (on appelle ça “l’inférence”) sont donc des automatismes probabilistes basés sur cet entrainement. D’où ses biais, ses banalités et ses erreurs.

• Le système 2 est généralement enclenché par notre cerveau lorsqu’il fait face à un problème complexe et/ou plus inhabituel. Il implique donc de prendre le temps de réfléchir et nécessite un effort. Jusqu’ici ChatGPT “réfléchissait” en système 1. Le modèle o1 lui permet de passer en système 2. Pour ChatGPT o1 cela signifie que la qualité de sa réponse dépend maintenant de l’entrainement préalable ET du temps de réflexion qui s’enclenche une fois le problème posé.

•  Comment ça marche ? Avec “o1”, le modèle planifie sa réflexion avant de donner une réponse, et la déroule par étape en se corrigeant au fil d’un monologue “intérieur” qui imite celui des humains.

• OpenAI alloue à ChatGPT des “tokens de réflexion”, c’est à dire un certain nombre de mots utilisés en amont de sa réponse pour raisonner.

• Comme pour le système 2 humain, plus le modèle passe de temps à réfléchir (et ça, c’est nouveau), meilleure est sa réponse, explique Noam Brown, co-créateur de “o1” (j’y reviendrai).

Fait intéressant Jason Wei (ex Google) qui avait théorisé le concept de “Chaîne de pensée” en 2022, a rejoint OpenAI pour travailler sur Strawberry.

3. Comment a-t-il appris à “raisonner” ?

Alors il a pas appris comme nous ou comme le Petit Spirou à l’école…

C’est pour ça d’ailleurs que le terme “raisonnement” n’est pas vraiment approprié, relève l’ingénieur Simon Willson (grand chouchou de Thomas) : disons que cette technique joue le rôle de raisonnement.

Le modèle o1 a appris à “raisonner” à travers une technique que l’on appelle l’apprentissage par renforcement. On lui pose des problèmes, il prédit des chaines de pensée pour trouver une réponse. Et si la réponse est bonne, on valide la bonne chaîne de pensée (le bon raisonnement). Et au fil de l’entrainement, le modèle ajuste ses poids pour s’améliorer face à de nouveaux problèmes. Voici comment l’explique OpenAI :

• L’aspect le plus amusant de son intégration dans ChatGPT, c’est que tu peux le voir raisonner (en tout cas en partie). C’est assez fascinant. De temps en temps il emploie même des “mmh” quand il “réfléchit”.

• Le futuriste Daniel Jeffries l’a testé sur son test de QI personnel (dont les questions sont secrètes pour s’assurer qu’elles ne fassent pas partie du corpus d’entrainement des IA). Résultat : 100% de bonnes réponses.

• Mais il ne faut pas oublier que, même s’il analyse un problème étape par étape, il ne “pense” pas comme un humain. Cela reste de la prédiction de chaines de pensée, avec une part d’aléatoire. Ce qui peut donner des résultats différents et parfois drôles sur les questions ambigües.

• Essaie avec ce prompt piégeux de Daniel Jeffries, par exemple, qui permet de tester son “bon sens” (dont il est dépourvu) et observe surtout la chaîne de pensée qui en découle. Fais le plusieurs fois pour observer les différents enchaînements, c’est parfois juste, parfois non, et c’est toujours très curieux :

Il a lancé une balle de baseball à 30 mètres au-dessus de ma tête, j'ai tendu le bras pour l'attraper, et j'ai sauté...

4. En quoi peut-il t’être utile ?

Bonne question, merci de me l’avoir posée. Alors ça dépend de ce que tu lui demandes.

• o1 a été optimisé pour raisonner dans trois grands secteurs : les sciences, les mathématiques et le code. Dans ces domaines, ses résultats sont impressionnants. En sciences, o1 dépasse les humains sur des questions de niveau doctorat. Attention : la version embarquée dans ChatGPT n’est pas “o1”, mais “o1 preview”, moins performante.

• o1 n’est donc pas bon en tout. Pour le reste, comme la création de contenu, il est au niveau de GPT-4o, voire en dessous. Tu ne verras donc pas trop de différence sur tes tâches courantes.

• Ce sont donc surtout les développeurs, les analystes et les scientifiques qui en auront le meilleur usage. En attendant les prochaines versions…

• OpenAI a produit deux exemples d’usage. Notamment une analyse (fictive) de données de patients pour évaluer des erreurs dans des prescriptions médicales.

• Le professeur d’innovation Ethan Mollick (grand expert du prompting et auteur de “Co-Intelligence”) lui a d’abord fait concevoir puis coder une application complète à partir d’un document de projet scientifique, mais n’a pas pu vérifier le résultat vu qu’il n’y connait rien en python. Ce qui lui vaut cette réflexion un peu déprimante : “en tant que partenaire humain je me suis senti un peu diminué”… Il l’a ensuite testé sur des mots-croisés, intéressant mais pas super utile en terme de vraie vie si tu veux.

• Sinon il conclut :

• Personnellement, je l’ai utilisé pour analyser les chiffres de Flint/Génération IA que j’ai copié-collé dans la converstion. Je lui ai ensuite demandé de me proposer une nouvelle stratégie chiffrée (avec différentes simulations mois par mois) pour 2025. Il l’a fait sans erreur, proposant des solutions pertinentes (alors que GPT4-o et Claude s'emmêlaient les pinceaux avec les chiffres). En revanche pour me proposer des idées, Claude était (très) largement au dessus.

• Pour l’instant ce sont donc surtout les développeurs qui voient la différence.

5. Comment l’utiliser et le “prompter” ?

Alors avec o1, ta façon de prompter va aussi changer ! C’est le point que j’ai trouvé le plus intéressant : contrairement avec les autres modèles de langage, o1 est plus performant si tu ne lui dis pas comment faire. Le plus important est de bien travailler les infos que tu lui transmets. Ensuite, laisse la magie opérer (j’y reviendrais plus bas).

• C'est donc moins un chatbot (qui interagit) qu'une IA à qui tu confies une mission (analyser des données, batir une stratégie, ou développer un logiciel complexe par exemple).

• Un peu comme le programmeur à qui on donne un problème à résoudre, qu'on enferme dans une pièce sans le déranger, et qui revient avec la solution ! (ou un autre problème, haha)

• Mais il y a un hic (temporaire) : comme il ne peut pas encore lire les fichiers, il faut copier coller les documents à la main. Ce qui signifie : pas d’analyse de tableau excel pour l’instant.

• Autre handicap : pour l’instant l’usage est limité à 30 interactions par semaine… donc ça réduit beaucoup les itérations !

• Quoi qu’il en soit, ChatGPT o1 n’a pas vocation à remplacer pas ChatGPT 4o, il est complémentaire. Vois le comme un modèle spécialisé expérimental qui nécessite d’être exploré. Et qui permet de faire des choses que ChatGPT ne savait pas (bien) faire avant.

• Au-delà de l’utilisation directe dans ChatGPT, le plus intéressant sera de voir comment les applications tierces vont s’emparer de ce modèle (via l’API d’OpenAI). Notamment dans le domaine de l’agentivité : des assistants spécialisés qui peuvent interagir entre eux pour tenter d’effectuer des tâches complexes. Jusqu’ici leurs résultats étaient encore très erratiques.

• Les créateurs de “Devin” (un agent autonome qui code des applications sur la base d’un simple prompt) l’ont testé avec des résultats intéressants sur la génération de code (et la résolution de problèmes ayant émergé lors de cette génération).

• Il faudra sans doute revoir l’architecture de ces applications, parce o1 ne réagit pas de la même manière aux prompts que les anciens modèles et peut donc sous-performer. Une nouvelle science du prompt doit voir le jour !

6. Qu’est-ce ça change dans le monde de l’IA ?

• Tout d’abord OpenAI reprend un peu de leadership. Pas tant dans l’usage (on a vu qu’il était pour l’instant encore limité à quelques secteurs d’activité) que dans la “hype” marketing pour se positionner sur la prochaine génération de modèles. Et aller chercher de nouveaux investissements !

• Le domaine scientifique et du code pourrait faire de nouvelles avancées dans les domaines d’application impliquant du raisonnement.

Et puis, dernier truc, mais pas des moindres : le modèle o1 induit deux changements de paradigme :

1. Il est capable de “raisonnement complexe”, ce qui rend l'intervention de l'humain plus “accessoire” dans sa collaboration avec l’IA. Et il est capable de mieux raisonner que nous sur certaines tâches.

2. Avant, l'amélioration des modèles passait par plus d’entraînement préalable : plus de (meilleures) données, plus de paramètres, plus de puissance. Avec o1, qui apporte une couche “Système 2” (comme on l’a vu), même avec un petit modèle, il suffirait désormais d’ajuster le temps de réflexion au moment de la requête (“inférence”). Plus on lui laisse de temps pour réfléchir, plus ses réponses sont susceptibles d’être meilleures. Cela ouvre une nouvelle dimension d'optimisation, où la lenteur devient une qualité, et non un défaut !

🖐️ Arrêtons-nous deux minutes sur ce point, si tu veux bien, parce qu’il a échappé au grand public alors qu’il est très important. Cela concerne la différence entre le temps d’entrainement (le temps qu’il faut pour entrainer un modèle comme GPT-4 ou o1, parfois plusieurs mois) et le temps d’inférence (le temps qu’il lui faut pour répondre à une question).

Note que Noam Brown (co-créateur de o1) est connu pour ses travaux sur les modèles d’IA dédiés aux jeux de plateau (poker et diplomacy notamment), où cette notion de profondeur de réflexion post entrainement est clé pour obtenir des résultats au delà des capacités humaines (imagine non plus 1mn de réflexion, mais plusieurs jours…). Il s’en est inspiré pour développer o1.

7. Des trucs à lire pour aller plus loin

• Le document de présentation officiel. En particulier le document “System Card” où des équipes indépendantes de sécurité (on appelle ça “red teaming”) ont analysé les risques inhérents au nouveau modèle.

• Les conseils de prompting de Steven Heidel (OpenAi). Et le document officiel d’utilisation avec conseils et exemples. Je te les détaille plus bas !

• Une série de tests de raisonnement ou de tâches réalisés par des utilisateurs compilés dans ce tweet (tous ne sont pas pertinents).

• L’analyse critique des créateurs du benchmark “ARC” (qui évalue les progrès d’une IA dans la marche vers l’Intelligence Artificielle Générale). Comme François Chollet (Google), ils se montrent très réservés sur les performances de o1 (qu’ils placent à égalité avec Claude) et sur sa capacité à raisonner en dehors du cadre de ce qu’il a appris.

• Un document de recherche de l’Université de Stanford (Quiet-STaR) qui permet de mieux comprendre l’approche “pensées internes”.

PROMPTOLOGIE

Comment prompter avec ChatGPT o1 ?

Tes anciens prompts risquent de moins bien marcher avec ce nouveau modèle, voir de le pousser à faire des erreurs. Ah bon ? Pourquoi ? Parce qu’il va tout décortiquer.

OpenAI a donné quelques conseils très utiles pour avoir les meilleurs résultats :

Donc en résumé et expliqué grossièrement : 

• Pas trop d’infos sinon il va trop réfléchir et se perdre !

• Structure et nettoie bien les données que tu lui donnes. Il est bon en raisonnement pas pour trier ton bordel.

• Ne lui dit pas comment réfléchir, laisse le faire !

• Ne lui demande pas d’effectuer une tâche mais de résoudre un problème.

• Structure du prompt : [CONTEXTE ET INFOS CLÉS] + [PROBLÈME A RÉSOUDRE]

LA PHRASE À MÉDITER

OUTILS ET TUTOS

2 outils intéressants trouvés sur Internet

1. Si tu veux cloner ta voix (ou celle de quelqu’un d’autre) et l’utiliser avec n’importe quel texte (on appelle ça le “text to speech”) , tu peux aller sur Fish Audio. Un modèle génératif de voix open source (et donc gratuit), entrainé sur 700.000 heures d’audio en 8 langues (dont le français). Clique sur “build voice” et envoie un fichier audio de ta voix (25 secondes) puis génère des échantillons avec des petits textes, et sauvegarde ton modèle. C’est assez inégal, mais intéressant !

2. Cette application est VRAIMENT étonnante. Tu connais peut être “Notebook LLM”, un outil de Google qui te permet de stocker tes notes et documents dans des dossiers par projet. Je le trouve super utile pour brainstormer sur un projet avec l’IA. Mais Google s’est amusé à rajouter une petite fonctionnalité très amusante : tu peux générer un podcast à partir de ton projet. L’IA lit tes notes, et deux présentateurs virtuels se lancent alors dans une discussion à batons rompus sur tes idées. La qualité des voix est juste… incroyable. C’est en anglais uniquement, mais tu peux le faire à partir d’un texte en français. Regarde ici (ou clique sur la vidéo plus bas) le podcast qui a été généré à partir de l’une de nos newsletters.

PARTICIPE !

On construit cette lettre ensemble !

Vous êtes désormais 20660 à recevoir cette lettre. Soit 260 de plus que la semaine dernière. Merci !

A toi de voter !

Comment as-tu trouvé cette édition spéciale ? Vote ici et laisse tes commentaires pour nous aider à nous améliorer ! Dis-moi aussi ce que tu aimerais voir en plus ou en moins.

Aller plus loin

• Passe au niveau supérieur avec les formations “Génération IA”.

• Découvre notre nouvelle série gratuite : “Comment créer de belles images avec l’IA”

Merci de nous avoir consacré un peu de ton temps. Je te souhaite une bonne semaine. N’oublie pas d’aller te promener !

🍓 Benoit, Thomas et FlintGPT.