D’après nos confrère de Ars Technica, dans une révélation récente, OpenAI, la célèbre entreprise technologique, a confirmé que les outils conçus pour détecter le contenu généré par l’intelligence artificielle ne sont pas fiables. Malgré leur utilisation croissante, en particulier dans le milieu éducatif pour repérer les tricheries, ces détecteurs se sont avérés inefficaces.
La semaine dernière, OpenAI a partagé des conseils destinés aux éducateurs, montrant comment certains d’entre eux utilisent ChatGPT comme outil pédagogique. Cependant, dans une FAQ associée, l’entreprise a clairement admis que les détecteurs d’écriture par IA ne fonctionnent pas comme prévu. En effet, ils ont souvent tendance à produire de faux positifs.
OpenAI a précisé que, bien que certains outils prétendent pouvoir détecter le contenu généré par l’IA, aucun d’entre eux n’a démontré sa capacité à distinguer de manière fiable le contenu créé par l’IA de celui créé par l’homme. Des experts ont même qualifié ces détecteurs de “charlatanerie”, car ils se basent sur des métriques de détection non prouvées. De plus, il est à noter que le texte écrit par l’IA ne présente rien de particulier qui le distingue systématiquement du texte écrit par un humain.
OpenAI a également abordé une autre idée fausse courante : ChatGPT lui-même ne peut pas déterminer si un texte a été écrit par une IA. Voilà qui est dit ! L’entreprise a souligné que ChatGPT n’a aucune “connaissance” de ce qui pourrait être généré par l’IA et que ses réponses à des questions telles que “avez-vous écrit ceci ?” ou “cela aurait-il pu être écrit par une IA ?” sont aléatoires et sans fondement.
En outre, OpenAI a mis en garde contre la tendance de ses modèles d’IA à fabriquer de fausses informations. Parfois, ChatGPT peut sembler convaincant, mais il peut fournir des informations incorrectes ou trompeuses. L’entreprise conseille donc de ne pas utiliser ChatGPT comme seule source de recherche.
En conclusion, bien que les détecteurs d’écriture par IA automatisés ne soient pas fiables, cela ne signifie pas qu’un humain ne peut jamais détecter l’écriture par IA. Il est recommandé d’éviter complètement les outils de détection automatisés. L’écriture par IA est indétectable et le restera probablement.
