Et en fait même si au début ca parait bluffant, en vrai il est mauvais, voire très mauvais car il ne comprends pas ce qu'il raconte et ne distingue pas le vrai du faux.
L'apparence de la GUI laisse croire à un truc intelligent qui raisonne et corrige ses erreurs. Mais en vrai il ne fait que prédire les mots suivants en fonction des précédents. Il sort les trucs les plus probables par rapport à ce qu'il a appris durant les phases d'apprentissage.
Alors si ce qu'on demande est un classique qu'on trouve dans la littérature informatique sur laquelle il a été formé il ne va pas avoir trop de problèmes pour produire un truc un peu censé (le truc le plus probable est dans les bouquins). Mais si on continue la discussion il va commencer à introduire des erreurs qu'ils ne corrigera pas, et au final il racontera des trucs totalement idiots.
Pour info, Stack-Exchange a banni les utilisateurs copiant/collant les réponses de ChatGPT car bien que bien écrites, assurées et renseignées, elles contenaient systématiquement des erreurs ou des conneries difficiles à détecter par le novice.
GPT est une technique très bien pour générer des histoires plausibles, faire des résumés de textes, mais pas vraiment pour résoudre des problèmes de maths (essayez lui les histoires de robinets et baignoires qui fuient), ou de programmation où il faut conceptualiser quelque chose et pas sortir le terme suivant le plus plausible en fonction du contexte, comme le font les élèves perdus à l'oral sortant des mots au hasard "sonnant comme il faut" alors que l'examinateur leur soufflait la réponse.
