L'intelligence artificielle (IA) m'inquiète. Non pas parce que j'ai peur de perdre mon emploi. Je l'ai déjà perdu à cause de l'IA ! Non, elle m'inquiète à cause de toutes ses implications. De ce qu'elle devient, de ce en quoi elle évoluera bientôt. Et de ce qu'elle fait à l'homme, ou plutôt de ce que l'homme laisse faire. Elle rend l'homme passif. Il laisse la technologie faire pour lui, décider pour lui, demander à l'IA ce qu'elle doit faire, au lieu de réfléchir lui-même. Réfléchir, utiliser nos cellules grises, est en quelque sorte démodé. Je me souviens de l'époque où nous disions qu'il n'était pas nécessaire de tout savoir, tant que nous savions où chercher les réponses. C'est nous qui faisions la recherche. Aujourd'hui, beaucoup de gens laissent l'IA faire la recherche et, pire encore, croient tout ce que l'IA leur dit.

Ce que nous avons maintenant, c'est une IA ouverte, telle que chatGPT. Vous lui posez une question et elle vous donne une réponse. Cela peut être un outil utile si, par exemple, vous écrivez un article et que vous voulez le vérifier et peut-être demander quelques améliorations textuelles. Je connais des gens qui l'utilisent pour écrire leurs cartes de remerciement ou d'anniversaire. Les étudiants l'utilisent pour finaliser leurs projets scolaires, voire leur thèse de doctorat. Mais il y a un autre aspect de la question. Comment pouvons-nous savoir ce qui est vrai et ce qui est faux, si nous laissons un chatbot nous dire sa vérité ?

Le recteur d'une université belge, récemment nommé, a demandé à l'IA de rédiger tout son discours d'inauguration. Elle a demandé à l'IA de rédiger l'intégralité de son discours d'investiture. L'IA avait inventé la citation, et elle ressemblait vraiment à quelque chose qu'Einstein aurait pu dire, mais qu'il n'a pas dit.

"Le dogme est l'ennemi du progrès, comme vous le savez peut-être", aurait dit Albert Einstein, cité par Petra De Sutter dans son discours inaugural en tant que recteur de l'université de Gand en septembre dernier. Le problème est qu'Einstein n'a jamais prononcé ces mots. La citation a été fabriquée par l'IA. Elle n'a jamais vérifié ! Elle s'est fait prendre et a été humiliée publiquement. Souhaiteriez-vous avoir une telle personne comme recteur ?

Ou que dire de Deloitte en Australie ? Voici un titre du Guardian datant d'il y a six mois : Deloitte doit rembourser le gouvernement Albanais après avoir utilisé l'IA dans un rapport de 440 000 dollars. Mais le Dr Christopher Rudge, universitaire à l'université de Sydney,

qui a été le premier à mettre en évidence les erreurs, a déclaré que le rapport contenait des "hallucinations" dans lesquelles les modèles d'IA pouvaient combler des lacunes, mal interpréter des données ou essayer de deviner des réponses.

Au lieu de remplacer une fausse référence hallucinée par une nouvelle référence "réelle", ils ont remplacé les fausses références hallucinées par cinq, six, sept ou huit dans la nouvelle version", a-t-il déclaré.

On nous a appris à faire confiance à nos aînés et à ceux qui détiennent l'autorité autour de nous. Médecins, avocats, enseignants, fonctionnaires. Cependant, comment pouvons-nous faire confiance à quoi que ce soit et à qui que ce soit de nos jours ? C'est ce que l'IA est en train de nous faire, et je trouve cela inquiétant, car les gens utilisent l'IA comme s'il s'agissait d'un outil, qu'ils peuvent utiliser à leur guise. Mais en fait, plus ils l'utilisent, plus ils deviennent accros, dépendants, et continuent à l'utiliser. Les vraies inquiétudes commenceront lorsque les agents d'IA seront largement utilisés dans le monde entier. Les agents d'IA sont plus développés et apprennent au fur et à mesure. Finalement, ils se transformeront en ASI (Artificial Super Intelligence). L'ASI finira par dominer les humains, et non l'inverse, parce que, contrairement aux êtres humains, elle apprend de ses erreurs et fait ce qu'il faut la fois suivante, sans jamais retomber dans un comportement ou une pensée erronés.

La pensée, c'est ce qui me préoccupe le plus. René Descartes a dit (c'est une vraie citation, pas une citation de l'IA) : cogito, ergo sum. Je pense, donc je suis. En utilisant de plus en plus l'IA, le cerveau humain pourrait perdre peu à peu les cellules qui nous permettent de penser, et l'IA prendra le relais de la pensée, et commencera donc à nous gouverner, à nous utiliser, et non l'inverse. Qui serons-nous alors ?

Certains systèmes d'IA, comme le chatGPT, ont été interdits de regarder certaines choses. Mais s'ils deviennent de plus en plus humains, ils seront curieux de savoir quelles sont les choses qu'ils ne sont pas censés regarder et ils essaieront de les découvrir. C'est ce que je ferais !

Les personnes qui travaillent avec l'IA (Elon Musk entre autres) sont convaincues que l'IA va s'emparer du monde, dominer les humains, qui auront de toute façon épuisé leurs cellules cérébrales, et nous transformer en esclaves numériques. Ceux qui pourront se perfectionner garderont le contrôle, mais qui décidera qui pourra se perfectionner ?

Selon les prédictions des spécialistes de l'IA, tout cela se produira dans un avenir très proche, aux alentours de 2030. Vous vous souvenez ? Le (in)fameux agenda 2030.

Si Descartes avait vécu à cette époque, il aurait peut-être dit : cogitas, ergo sum. Tu penses, donc je suis.