ChatGPT : productivité accrue ou dégradation des contenus web ?

ChatGPT permet d'écrire plus facilement. Conséquence : le web est déjà pollué.

Je ne sais pas si vous avez remarqué, mais en faisant des recherches Google, je tombe de plus en plus souvent sur des contenus générés par ChatGPT.

Comment je les reconnais ?

ChatGPT a des tournures de phrases bien reconnaissables, et un usage abusif de certains termes ("dans le monde tumultueux de...", "captivant", "révolutionnaire", "crucial"...)

Surtout : il hallucine quand même assez souvent.

Un exemple : je fais une recherche sur les meilleurs outils d'IA 2024. Le moteur me renvoie vers deux articles générés avec l'IA. Parmi les outils listés dans ces articles : au moins un est complètement inventé.

Autre exemple : j'achète un guide destiné à l'usage de MIdjourney pour les architectes. 22€. Le texte regorge des tournures habituelles. Mais surtout, il n'apporte aucune information et invente des fonctionnalités délirantes à Midjourney.

Je vais sur le compte Instagram et LinkedIn du cabinet d'architectes qui vend le livre : une photo d'une jolie fille architecte visiblement générée par l'IA. Des faux projets générés par l'IA... et des messages insipides.

Selon une étude publiée en mars, l'utilisation de l'IA en sciences pour générer ou modifier les évaluations par les pairs semble avoir augmenté de manière notable depuis le lancement de ChatGPT (entre 6 et 16% des contenus), au moins dans le domaine de l'apprentissage automatique. Problème ? Oui et non, tout dépend comment l'IA est utilisée.

Cela m'inspire plusieurs réflexions :

- Les humains n'ont pas attendu l'IA pour écrire n'importe quoi, sauf que l'apparition de ces modèles amplifie le phénomène.

- Les études montrent que l'usage d'outils comme ChatGPT permettent d'améliorer la productivité et la qualité des contenus. Oui, mais à condition d'apprendre à les utiliser. Et qu'il y ait une intervention l'humaine avant, pendant et après la rédaction.

- Les moteurs de recherche comme Google ont fait le choix de ne pas faire de différence entre les contenus générés avec IA ou non, parce que c'est la qualité qui importe, disent-ils. Leurs algorithmes n'ont visiblement pas été préparés à l'usage abusif de ces outils.

- Les créateurs de ces mêmes IA commencent à s'inquiéter : leurs modèles seront demain nourris par ces contenus synthétiques, ce qui altèrera leur qualité.

- Je vois fleurir partout des guides pour "automatiser ChatGPT" pour les mails, les contenus Instagram etc. C'est bullshit et irresponsable. On peut utiliser hashtag#ChatGPT, c'est très utile, mais on ne peut pas automatiser ces modèles.

- Le meilleur moyen de se prémunir contre cette nouvelle infobésité, c'est encore de se former. Quiconque a appris à utiliser ces outils, sait qu'il faut toujours mettre un humain dans la boucle pour des raisons évidentes de qualité et de sécurité. Et il ou elle sera plus à même que les autres de reconnaitre des contenus générés par l'IA et leurs hallucinations.