Je disais hier que certains chercheurs attribuaient à ChatGPT (et ses analogues) un grande inventivité et créativité, parfois considérée comme supérieure à celle de l’homme.  

      Je trouve d’abord que certains essais qui m’ont été rapportés (notamment dans un article de Cerveau et Psycho de janvier 2024), me paraissent discutables.
      Mika Koivisto, de l’université de Turku, en Finlande, et Simone Grassini, de l’université de Bergen, en Norvège, ont laissé à 256 volontaires, trente secondes pour trouver des utilisations originales et inhabituelles de quatre objets du quotidien : une boîte, une corde, un crayon et une bougie. Ils ont posé la même question à 3 chatbots, dont ChatGPT4.
       Le jury était composé de six experts humains, formés pour classer les réponses en fonction de leur originalité, et d‘un logiciel qui analysait le degré de parenté entre les mots ou les concepts.
      Les idées les plus originales des humains se sont montrées toujours supérieures (c’est-à-dire mieux notйes par le programme et les experts) que les meilleures réponses des chatbots. Mais, en moyenne, les notes de créativité des IA étaient nettement plus élevées que celles des hommes. Et enfin les réponses humaines les moins bien notées étient moins créatives que la pire des productions des chatbots.
      Mais l’article donne un exemple où la réponse d’un participant pour le mot « boîte » : « maison de jeu pour chat » a été considérée moins originale qu’une réponse similaire faite par chatGPT-4 :
« parc d’attractions pour chats. J’avoue que pour moi, la différence est bien faible et il s’agit de la même idée : seuls les mots changent. Par ailleurs le temps de 30 secondes donné à des personnes non habituées à cet exercice est beaucoup trop faible : le cerveau humain ne va pas à la vitesse d’un ordinateur.

       Mais, à mon avis, si on réfléchit un peu, cet exercice ne signifie rien du tout quant à la créativité réelle des chatbots.
        Que font les programmes des chatbots ?
       On leur a ingurgité en « lisant » sur internet, des milliards de mots et de phrases. Ensuite le programme leur a appris, lorsqu’on leur pose une question avec de mots, à rechercher tous les mots qui pourraient aller à la suite d’un ou plusieurs mots et à calculer la probabilité que ce soit la bonne suite, en comparant avec sa base de données immense, et ils choisissent le mot le plus probable.
      Et ils continuent de mot en mot et construisent ainsi une phrase probable et éventuellement ensuite de phrase en phrase Et ils vont chercher toutes les données factuelles sur internet.

        Alors pour un chabot, créer une histoire à partir de mot, c’est simple. Il n’y a rien à comprendre. Il n’imagine rien, il va chercher sur internet tous les morceaux d’histoire qui existent et il va les assembler en fonction de ses calculs de probabilité.
        Or qu’est ce que la créativité : c’est puiser des éléments dans sa mémoire, qui sont des éléments courants et connus, et les assembler d’une façon à laquelle personne n’avait pensé avant et parfois introduire un élément nouveau, une nouvelle façon de voir le problème.
       Le chatbot n’invente rien mais il a une base de données de milliards d’éléments, sans commune mesure avec notre mémoire, et sa vitesse de recherche est des milliers de fois plus grande que la nôtre. Il est donc normal qu’il fasse mieux en moyenne que des personnes qui ont très peu de temps pour rassembler des idées, pour arranger des mots de façon originale. Il a en fait piqué les idées de l’ensemble de l’humanité sur internet.

       Par contre si on leur pose des problèmes de logique, de mathématique ou de physique, où il faut raisonner et donc vraiment créer pour avancer, (sauf bien sûr si on connait déjà la solution), là, les chabots sont nuls et répondent de façon erronée.

       Je ne pense pas que les chatbots feront perdre beaucoup d’emplois.
       Ils sont incompétents en matière de sciences et ils seront à peine meilleurs que Google, et sans commune mesure avec Wikipédia (sauf copier ses articles).
      Les métiers manuels ne sont pas de leur compétence et leur compétence technique est très limitée.
      Ils pourront rédiger une lettre ou un mail, à la place d’une secrétaire, mais on aura intérêt à la relire, car tout dépend de ce que l’on voulait dire dans cette lettre. Mais ils ne répondront pas le plus souvent intelligemment au téléphone. Ils pourront classer des données sur ordinateur, (mais pas classer des papiers), et vous risquerez parfois de ne plus savoir où ils les ont rangées.
     Certes ils pourront avoir quelques idées en matière de communication ou dans le domaine artistique, mais ce sera une compilation des œuvres déjà créées et trouvées sur internet. Il pourra en résulter des mélanges originaux, mais ce ne sera pas une vraie création, mais un mélange de copies. Ils auront copié l'homme .

         Avoir peur de l’IA n’est pas une réaction nouvelle : on a déjà eu peur des ordinateurs, il y a 50 ans et de l’automatisation de l’industrie il y a cent ans.
        Les progrés techniques passés ont entraîné de grands bouleversements sociétaux et économiques. Certes, des emplois ont disparu, mais la plupart des pires prédictions ne se sont jamais réalisées, pas plus que celles relatives au passage à l’an 2000.
         Mais comprendre les avantages d’une nouvelle technologie, apprendre à s’en servir, être formé à en tirer le meilleur parti, est nécessaire et demande d’aller au-delà des prédictions sensationnelles des journalistes et de ses propres craintes..

       Une bêtise de ChatGPT sur un problème très simple de logique :

Question. Si Alain arrive а la réunion avant Bernard et que Bernard arrive après Claire, peut-on en déduire qu’Alain arrive avant Claire ?

Réponse. Oui, on peut en déduire qu’Alain arrive avant Claire. En effet, si Alain arrive а la réunion avant Bernard, et que Bernard arrive après Claire, alors Alain doit être arrivé avant Claire.

         C’est totalement faux, on ne peut savoir si Alain arrive avant ou après Claire. ChatGPT a mis des mots les uns après les autres, qui signifient quelque chose, mais il n’a pas raisonné et logiquement c’est faux.