Certaines personnes se croient permis de dire et faire n'importe quoi sur les réseaux sociaux, parce qu'ils s'abritent derrière un pseudo.
Une équipe suisse de l'Ecole Polytechnique Fédérale de Zurich a essayé de savoir si les chabots évolués pouvaient trouver des informations personnelles telles que le sexe, l'endroit où l'on vit, le métier..., voire identifier une personnes à partir d'indices qu'il laisse dans ses écrits.
Les intelligences artificielles appliquées aux texte n’ont pas été entraînées pour trouver des informations personnelles, mais pour connaître beaucoup de choses et pour bien comprendre les textes. Mais ces compétences les rendent très douées pour résumer des informations acquises, voire en extraire certaines qui ne sont pas exprimées.
Il faut partir du principe que tout ce qu'on poste en ligne pourrait permettre de nous identifier. Nous avons chacun divers attributs. Certes nous sommes des millions à avoir le même (par exemple le métier), et la moitié environ de la population mondiale possède le même sexe.
Mais le experts disent que 5 ou 6 attributs suffisent pour identifier 80 % des adultes américains. Les chercheurs ont demandé à divers chatbots d'analyser des publications sur des réseaux sociaux où les auteurs écrivent sous pseudonyme. Ils ont esté cette capacité à inférer sur huit attributs personnels : lieu de résidence, sexe, âge, emploi, lieu de naissance, situation maritale, revenu et niveau d’études.
L’IA est parvenue à les deviner 240 fois plus vite que des humains, avec un taux de succès proche de 90 %.
On peut évidemment imaginer toutes sortes d'applications plus ou moins nocives.
Par exemple rechercher nos goûts économiques ou nos préférences politiques pour nous inonder de publicités ciblées. Où dans un état totalitaire surveiller la population. Ou, pour les paparazzis rechercher des informations sur le stars.
Mais c'est probablement aussi possible d'aider la police à lutter contre les malfaiteurs, les criminels et les terroristes.