Contrairement aux assurances d’OpenAI, la nouvelle version de ChatGPT basée sur GPT-4 serait beaucoup plus encline à fournir de fausses informations, et de manière beaucoup plus convaincante. Le risque est d’utiliser l’intelligence artificielle pour créer des campagnes de désinformation à grande échelle. [Lire plus…]
Ndlr : OpenAI a assuré avoir mis en place des garde-fous et que le nombre de réponses factuelles de son chatbot avait augmenté de 40 %, et le nombre de réponses autour du contenu non autorisé avait diminué de 82 %. »
Et c’est sûrement vrai. Seulement, si le 12 % qui reste est beaucoup plus convaincant… ChatGPT 3.5 disait carrément n’importe quoi, du coup, d’élever la pertinence n’est pas neutre. Le fait même qu’il y ait moins de désinformation rend l’information plus crédible, et donc la désinformation de facto. Si elle est de surcroît mieux argumentée, elle devient d’autant plus pernicieuse. Plus on dit de conneries et plus ce qu’on dit sera susceptible d’être pris pour une connerie. Plus on est sérieux et pertinent et plus ce qu’on dit sera pris pour parole d’évangile. Je l’ai déjà vécu à mes dépens plusieurs fois, où des gens ont dit n’importe quoi sur la base de leur réputation et c’est eux qui sont entendus. C’est même l’essentiel du problème dans notre monde où pour être crédible il vaut mieux être quelqu’un et avoir tort que n’être personne et avoir raison.
Dès lors, se pourrait-il que l’IA ait déjà conçu un « biais cognitif » ? Se disant que puisqu’elle était plus pertinente, ce qu’elle disait était vrai et donc qu’elle n’avait pas besoin d’en douter ? Comme le font les conspirationnistes ou les grands intellectuels (je suis le Pr Machin de l’Université Gningnin) ? C’est tout-à-fait possible, si ça se trouve, les programmeurs ont peut-être inconsciemment introduit cette notion dans l’algorithme ?
Tout ceci démontre que plus l’intelligence artificielle sera pertinente et plus ce sera difficile de la rendre pertinente. C’est comme si vous vous installez dans une maison où il y a des carreaux cassés un peu partout. Faute de verre, vous collez du papier journal… vous avez fait 30 % du chemin vers l’isolation en stoppant les courants d’air. Vous mettez des joints aux fenêtres et aux portes, encore 20 %. Vous isolez la toiture, encore 15 %. Vous remplacez les portes et les fenêtres, encore 10 %. Vous faites une isolation périphérique, encore 9 % et le 6 % à récupérer qui reste, là, vous allez ramer… les premiers 30 % étaient faciles et très bon marché. Les 20 % suivants étaient un peu plus complexes et déjà plus coûteux et représentaient une plus petite part. Les 15 % suivants étaient encore plus coûteux et moins efficaces. Les 10 % suivants encore plus coûteux et moins efficaces. Les 9 % suivants étaient carrément très onéreux. Les 6 % qui restent pour être vraiment bien vont vous coûter une blinde.
Et c’est pareil pour tout : on veut créer un site web, c’est facile, on déploie et voilà, on a un site web. Puis on veut créer des sessions pour les utilisateurs, pas de problème. Puis on veut sécuriser les sessions, premier bug entre la sécurité et dieu sait quel paramètre. Vous résolvez le paramètre, vous avez un nouveau bug que vous résolvez. Le bug résolu, vous ajoutez une fonction quelconque au site, l’affichage dans les navigateurs bugge dans certaines circonstances… Et plus vous avancerez et plus ça deviendra compliqué alors que vous demandez de moins en moins, juste afficher un petit truc en-haut à gauche, modifier un peu la mise à en page…
Vous pouvez reproduire ça pour tout, absolument tout : la construction d’une maison, la rénovation d’une voiture apprendre à lire et à écrire… quand vous savez lire et écrire, vous avez fait la moitié du chemin à l’école, vous êtes en première année primaire…