Essayé de lui demander d'inventer un tour en étant très précis sur les contraintes initiales, et en faisant des correctifs et vous verrez que ça coince toujours car il ne possède pas de "sens commun".
J'avais essayé il y'a 1 mois pour un bonneteau, et il faisait comme pour le tour des feuilles blanches, ça semble précis jusqu'au moment où on arrive à la méthode, et là ça demande trop de préconceptions/sens commun pour que ça marche réellement.
Il faut savoir que ChatGPT est poussé à répondre le plus possible pour ne pas "décevoir" l'utilisateur, ce qui le conduit à une forme d'affabulation, par contre il est du coup très efficace pour du fictionnel un peu moins pour le factuel qui sort de la connaissance collective (où là il est redoutable comparé à un google), le soucis c'est quand on approche de la limite où il donne l'impression d'être sûre de lui alors qu'il énonce bêtise sur bêtise.
Le vrai danger
Un tel modèle peut être "affiné" sur un type de texte en particulier, et là il devient envisageable de l'entrainer par exemple sur des texte de tours uniquement. Il va alors capturer des "structures" au sein d'un domaine, par exemple pour la magie, ce serait la notion de spectateur et sa perception. Ça semble dingue mais c'est la grande découverte de ce type de modèles, ils "apprennent" des choses uniquement sur la base du texte qui capturent plus du sens commun/savoir que nous le pensons, mais surtout à la manière de Lego. En termes technique le langage est plus compositionnel que nous le pensions...
Est-ce que ça pourrait donner lieu à du plagiat... surement il suffit de voir le bazar que c'est dans notre domaine entre humains... et là polémique sur leurs cousins les modèles génératif d'image (DALLE, MidJouney).
Est-ce que ça pourrait donner lieu à de la créativité... les modèles ne sont pas poussés à inventer (ils font de l'exploitation plus que de l'exploration) mais c'est une affaire de conception et pas une limite intrinsèque.
Est-ce qu'il y'a moyen de rendre ça utile, d'en faire un outil plus qu'un problème, ou un gadget? On verra ça en 2023.
Bonne année à tous.