Hier, j’ai vu l’introduction la plus parfaite possible à ce post chez Light&Smell, complètement par hasard. Elle a critiqué un roman, L’enfant aux cailloux, sur une retraitée qui n’a rien de mieux à faire que regarder ses voisins, jusqu’au moment où elle voit ce qui semble être un cas de maltraitance sur enfant. A-t-elle raison ? Il faut lire le roman pour en savoir plus. Mais ça m’a rappelé exactement la bonne histoire de mon père.
Quand il était gamin, sa famille habitait en Enfer, ou comme ça se prononce en anglais américain, le New Jersey. (Ne me croyez pas sur parole, voici un « reel » en français sur Instagram par mon amie Mathilde, qui témoigne à cette réputation.) Il avait une voisine retraitée, une Mme Mance, qui vivait en face de la rue. Mme Mance aimait espionner les voisins par la fenêtre, cachée derrière un store vénitien. Un jour, la famille de mon père a adopté un chien, nommé Paws (« Pattes » en français, prononcé comme « pause »). Paws, lui aussi, aimait regarder la rue par la fenêtre, derrière un store vénitien.
Ça a rendu folle Mme Mance. Tout ce qu’elle voyait chez mes grands-parents, c’était une paire d’yeux. Mais au milieu de la journée ? Les enfants à l’école, les parents au travail, qui était là ? Un locataire ? Mais elle n’a jamais vu une autre personne ! Après des semaines, elle a enfin demandé à un voisin. Mme Mance était soit si gênée soit si fâchée à découvrir qu’elle espionnait un chien qu’elle n’a plus jamais parlé à la famille de mon père. Mais le vrai problème, c’était que Mme Mance ne savait pas s’occuper de ses propres oignons.
Avez-vous vu la série X-Files : Aux frontières du réel ? Il y a une célèbre affiche, probablement l’accessoire le mieux connu de l’émission, avec une soucoupe volante et la légende « Je veux croire » (bon, en anglais, rien n’est parfait) :
L’affiche se trouve dans le bureau de l’un des deux personnages principaux, l’agent spécial du FBI, Fox Mulder. Il croyait à presque toutes les théories des extra-terrestres, des pouvoirs psychiques et ainsi de suite. Il s’est avéré à la fin que presque toutes ces choses étaient réelles dans l’univers de la série — mais pour des raisons diverses, les personnages principaux n’arrivent jamais à convaincre qui que ce soit de ce qu’ils ont vu. Je vous jure que je vais relier ces histoires.
Ça nous amène au vrai sujet du jour. Je vous ai parlé avant de mon meilleur ami et son habitude de croire tout ce qu’il lit en ligne, tant que ça rentre dans ses biais. Il nierait ça, mais on parle du même ami qui croyait sur rien d’autre qu’un tweet d’un inconnu que la Chine avait reconstruit Notre-Dame. Une autre fois que je n’ai pas mentionné ici avant, il a insisté que Rolling Stone — ici magazine complotiste autant que sur la musique, je ne sais pas si la version française est mieux à cet égard — avait des preuves (lien en anglais, mais payant) que M. Trump avait un document qui prouvait que M. le président Macron aimait trop La cage aux folles, si vous me suivez. Rolling Stone a perdu plusieurs procès pour des histoires complètement fausses, notamment celle-ci (lien en anglais). Puis il était convaincu par la rumeur dégoûtante à propos de Mme Macron, pour laquelle il n’y avait jamais aucune preuve.
Ce que tout ça a en commun, c’est que sa seule source était Twitter à chaque fois. Quand je lui demande où il a entendu telle ou telle chose, c’est toujours « J’ai demandé à Grok », l’IA de Twitter. Mais il ne comprend pas — et ce n’est pas juste lui, c’est la grande majorité du monde — qu’il n’y a pas de preuves derrière n’importe quelle IA ! Elles apprennent à parler en « lisant » tout le web, mais en général, il n’y a pas de mécanisme pour reconnaître quelles sources sont fausses.
L’exemple qui a provoqué ces réflexions ? Ce week-end, il m’a dit que les œufs ne coûtent que 20 centimes américains la douzaine en Chine, ce que Grok lui avait dit. Je ne parle pas chinois, mais à ce point, si on me dit qu’une IA dit que 2 + 2 = 4, je nierai les maths. Alors j’ai recherché les caractères chinois pour les œufs — 鸡蛋 — puis les noms des supermarchés chinois, et trouvé des œufs sur le site d’un supermarché qui est également à Hong Kong qu’en Chine, PARKnSHOP. Voici le prix en dollars de HK :
Puis j’ai découvert que le site était également disponible en anglais. Tant pis pour moi. Mais 23 $ HK en USD, c’est environ 2,96 $, ou 2,86 €. On est loin de 20 centimes ! Oui, Hong Kong est plus riche que la Chine continentale, mais qui me dit tout le temps que non pas seulement le Hong Kong, mais le Taïwan aussi, font partie d’une seule Chine ? (J’ai du mal à trouver un site sur le continent qui me donnera ses prix.)
Un autre exemple ? Une journaliste gauchiste voulait justifier la grâce offerte par M. Biden à son fils. Elle a publié ce tweet qui a dit que le président Wilson avait fait pareil pour son beau-frère, Hunter deButts :
Le seul problème ? ChatGPT avait inventé cette personne, et rien de la sorte n’est jamais arrivé !
Vous voyez sûrement où je vais. On parle d’un homme bien au-dessus de la moyenne, un docteur, et avant ça, diplômé de l’une des facs les plus difficiles aux États-Unis. Il sait mieux que cette journaliste, mais les IA leur disent ce que les deux veulent entendre, et c’est parti !
Le lien aux X-Files est donc assez évident. Ils veulent croire. Mais le rapport avec Mme Mance ? Rappelez le prix des œufs en Chine et ce que j’ai fait pour le vérifier. C’est la limite de mes compétences car je ne parle pas la langue. Mais là où je ne peux rien vérifier, j’essaye de ne pas avoir des avis forts, ou mieux, de me taire. Une leçon qui aurait épargné la pauvre Mme Mance.
Un Coup de Foudre 
❤
J’aimeAimé par 1 personne
🙂
J’aimeAimé par 1 personne
Mon mémoi!e pour mon M1 abandonné de psycho sociale portait sur le conspirationnisme. Si la méthone scientifique va recueillir des « preuves » puis tirer des conclusions le conspirationnisme fait exactement l’inverse. Du coup c’est très facile de voir des signes partout aller dans le sens de ses idées quand on a déjà une théorie.
Un jour mon ex a eu une discussion au sujet de la psychanalyse avec ChatGPT (je hais profondément ce courant et l’avais peut-être un peu influencé, haha). Au début ChatGPT a sorti des arguments mielleux sur la psychanalyse, mon ex lui a répondu par des contre-arguments. ChatGPT a répondu par un espèce de « Ha oui, c’est vrai, c’est vrai » et a totalement modifié son discours. Niveau fiabilité de la source c’est pas fifou.
J’aimeAimé par 3 personnes
Le fameux « biais de confirmation » 😁
Méfiez-vous des idées qui vont à l’encontre de ce que vous croyez.
Méfiez-vous encore plus de celles qui vont dans le sens de ce que vous croyez !
J’aimeAimé par 4 personnes
J’ai vu d’autres exemples en anglais où des gens contredisent ChatGPT et il répond par « T’as raison ». J’espèrerais qu’une IA fera plus confiance à ses connaissances que ça, au moins avant que l’on fasse confiance à ces choses. Mais on a sauté cette étape !
J’aimeJ’aime
Ce sujet tombe à pic, ma femme s’est disputée hier avec une de ses copines, que j’appellerai B par la suite.
La conversation est sortie d’une discussion avec une 3e copine, C qui disait qu’elle avait des soucis intestinaux après 2 jours à prendre des antibiotiques.
B a recommandé à C d’arrêter son traitement antibiotique, de toute façon rien ne dit que le médecin a bien vérifié que C avait bien une maladie bactérienne, que si sa maladie est virale l’antibiotique ne sert à rien et fera plus de mal que de bien. Donc il faut que C arrête.
Ma femme est intervenue à ce niveau pour dire qu’a priori, si le médecin a prescrit des antibiotiques il avait de bonnes raisons pour ça et que stopper le traitement n’était pas la meilleure des idées.
La discussion est partie de là, jusqu’au point où ma femme a dit qu’arrêter les antibio après 2 jours allait provoquer l’apparition de résistances chez les bactéries présentes chez C.
B lui a alors répondu qu’elle n’avait rien compris et que les résistances aux antibiotiques ne fonctionnaient pas comme ça. D’ailleurs, si elle voulait en savoir plus il fallait qu’elle demande à DeepSeek, et là elle verrait comment ça marche en réalité.
À ce stade, ma femme a coupé court à la discussion. Sa mère a fait n’importe quoi avec des antibiotiques toute sa vie (ils sont en vente libre en Chine, elle achète une boîte d’Amoxiciline à chaque fois qu’elle éternue, en prend 2 jours et arrête), résultat : elle a été hospitalisée pendant 4 jours le temps que les médecins trouvent un traitement efficace contre les bactéries responsables de son infection. Antibiotique qu’elle a dû prendre en injections pendant 2 semaines.
Je pense que les IA peuvent apporter des choses très intéressantes en médecine. J’ai lu des articles parlant de résultats prometteurs dans la recherche de tumeurs, par exemple. Il s’agit ici de systèmes d’IA dédiés à un point spécifique, pas de systèmes de conversation généraliste. Je trouve que les ChatGPT, Mistral, Grok, DeepSeek sont dangereux, parce-que chez certaines personnes ils vont remplacer des experts, avec une efficacité proche de celle de l’oracle de Delphes. Quand l’expert est un plombier, au pire on se retrouve à gérer une inondation. Quand c’est un médecin, quand il s’agit de questions d’organisation de la société… ça devient réellement dangereux.
J’aimeAimé par 3 personnes
Pour ma part, j’utilise des IA généralistes pour générer des images. Je ne confierais pas ma vie à un système incapable de représenter correctement une main, ou un arrière plan, ou… 😁
J’aimeAimé par 3 personnes
La seule fois où j’ai utilisé une IA pour une image publiée ici, c’était pour donner l’idée que Carrefour est la porte au Paradis. Mais au-delà ça, les photos restent grosso modo réelles. (Je me demande si c’est toujours les cas chez Wikimedia Commons.)
J’aimeAimé par 1 personne
Je n’ai jamais imaginé qu’une société où les films du Terminator sont bien connus aurait si facilement adopté les IA sans questions !
J’aimeJ’aime
Je ne pense même pas à Skynet ! Non, l’idée que l’« intelligence » artificielle, telle qu’elle existe maintenant, pourrait vouloir supplanter l’humain ne m’inquiète pas, aujourd’hui nous sommes vraiment loin d’une intelligence généraliste réelle, capable de résoudre des problèmes complexe dans toutes sortes de domaines. On a des outils, qui donnent de très bons résultats quand ils sont utilisés dans un domaine précis, j’ai donné l’exemple de la détection de certains cancers, il semble que ça fonctionne assez bien aussi pour la météo, par exemple. Mais rien de généraliste. Et c’est là que le bât blesse.
Il blesse, parce-que les jouets comme ChatGPT ou autres sont vendus comme tels : des *intelligences* artificielles. Dans le cas de B, pour mon exemple, elle prend le texte généré par son jouet comme s’il était issu des travaux des meilleurs experts dans le domaine, en oubliant qu’il ne s’agit que d’un texte généré de manière statistique par une machine. À partir de textes réels, peut-être, mais rien ne permet d’affirmer que ces textes réels sont à jour, ni même juste corrects.
Je crois l’avoir raconté, mais ça s’applique bien ici, je demande votre indulgence en cas de redite… Dans ma jeunesse, je lisais la Romance de Ténébreuse de M.Z.Bradley. Dans le premier tome des colons envoyés dans l’espace se sont crashés sur une planète, trop pauvre en métaux pour pouvoir réparer le vaisseau. Pendant une longue partie de l’histoire, tout ce que la colonie devait compter de scientifiques enregistre ses connaissances sur l’ordinateur de bord du vaisseau, qui fonctionne encore, pour les générations futures. Jusqu’au moment où un des membres de la colonie fait exploser cet ordinateur : il avait vu l’apparition d’une caste qui en prendrait le contrôle, et d’un peuple qui serait désespéré d’obtenir des réponses, assez pour mettre en place un culte de la machine qui aurait toutes les réponses. C’est plutôt ça qui me fait peur…
J’aimeAimé par 2 personnes
Quand autant de gens croient tout ce qui est publié sur des réseaux tels de FB ou X, ça pose question sur l’état de nos sociétés.
J’aimeAimé par 2 personnes
Tu as assouvi ma curiosité quant à l’histoire racontée par ton père. J’avoue que l’idée qu’une adulte ait pu espionner un chien en se demandant ce qui se tramait m’a amusée et prouve que la curiosité mal placée est un fort vilain défaut. Tout comme le manque d’esprit critique qui semble frapper même les gens instruits ce que je trouve terrifiant…
« Mais là où je ne peux rien vérifier, j’essaye de ne pas avoir des avis forts, ou mieux, de me taire. » Un phrase pleine de bon sens qu’on devrait placarder !
J’aimeAimé par 2 personnes
Ping : Saison 3, Épisode 48 — L’opportunité ratée de Proust | Un Coup de Foudre