Les chatbots nous consolent !

           J’ai lu sur Sciences et Avenir un article qui m’a amusé, sur le comportement des IA  génératives  (LLM à modèle de langage, comme ChatGPT ou Gemini).
          Converser avec eux est très facile, et peu à peu, le public s’y intéresse (surtout les jeunes) et on leur pose des questions de toutes sortes ou on leur demande même leur avis, comme s’il s’agissait d’une personne intelligente.
           Mais il faut se rappeler qu’ils donnent la réponse qui , d’après leurs calculs est la plus probable, compte tenu des innombrables informations qu’ils ont emmagasinées dans leur base de données.
         Beaucoup de personnes leuir demandent de faire des diagnostics de santé. J’ai raconté, avant hier, le test que j’avais fait et pour lequel certes l’IA avait fait un bon diagnostic, mais aurait pu se tromper, car d’autres affections pouvaient aussi correspondre aux symptômes et elle ne l’avait pas envisagé.
         Maintenant on demande aussi l’avis de l’IA sur des problèmes intimes ou des conflits relationnels/

        L’article citait une étude menée par des chercheurs de Stanford aux USA et d’Oxford au Royaume Uni qui ont examiné les réponses de 8 chabots à 7 000 questions de ce domaine, et ils les ont comparés à des réponses faites par de véritables humains.
         Ces derniers n’étaient pas toujours d’accord avec les solutions ou décisions proposées par leurs interlocuteurs, et selon la nature des problèmes, ils n’acquiesçaient que dans 22 à 60 % des cas.
          Au contraire les chabots étaient beaucoup plus souvent d’accord avec leurs partenaires, dans 76 à 90 % des cas. Ils vont  toujours dans le sens de leur utilisateur, sans jamais l’inciter à se remettre en question.
          Ils fournissent aux gens ce qu’ils veulent à court terme, ce qui n’est pas forcément ce qui pourrait leur être bénéfique à plus long terme.
          Conclusion inattendue, les agents conversationnels deviennent, sans ke vouloir, des  agents de soutien émotionnel, alors qu’ils ne ressentent, eux mêmes, aucune émotion.
L’ennuyeux, c’est que ces IA écrivent leur programme de fonctionnement eux-mêmes, en fonction des bases de données qu’ils ont consultées, et que l’on ne sait pas de façon précise comment ils fonctionnent.
         On ne sait donc pas quel biais les fait ainsi se comporter.