Dans l’épisode 1980 du podcast « The Joe Rogan Experience », le Dr Michio Kaku a rejoint Rogan pour discuter des implications des chatbots d’IA sur l’avenir de multiples expériences humaines. Le duo aborde les avantages potentiels et certaines limitations qui persistent dans les technologies d’IA grand public. Le Dr Kaku est un physicien théoricien et le co-fondateur de la théorie des cordes. Il est certainement une autorité dans ce domaine, et leur conversation dévie rapidement d’une discussion centrée sur les avancées de ChatGPT et d’autres chatbots d’IA (comme Google Bard) vers des domaines où il est beaucoup plus à l’aise. En particulier, Rogan et son invité commencent à discuter de l’impact des ordinateurs quantiques sur la scène émergente des chatbots d’IA. « Maintenant, voici la question : Si l’informatique quantique s’implique dans l’IA, à quoi devons-nous nous attendre ? » se demande Rogan.
« Les chatbots sont une révolution dans les logiciels, et les ordinateurs quantiques sont une révolution dans le matériel, alors attention », répond le Dr Kaku. Le duo n’approfondit jamais pleinement ce « rapprochement des esprits », pour ainsi dire, et ce que cela pourrait signifier dans toute sa subtilité. Mais le Dr Kaku parle finalement de la capacité des machines quantiques à distinguer le vrai du faux en ce qui concerne les capacités génératives d’un système d’IA. Et surtout, il lance un avertissement sévère concernant un effet secondaire potentiel.
Comment s’inscrit l’informatique quantique dans ce tableau ?
Pour le Dr Michio Kaku, le problème est que l’IA ne peut pas naturellement identifier la frontière entre réalité et fiction. « Donc, elle ne peut pas discerner ce qui est exact ? » demande Joe Rogan. « Exactement ! » répond le Dr Kaku, « Les chatbots ne savent pas ce qui est correct ou incorrect ». Les chatbots d’IA ne sont pas ancrés dans les faits concrets et la réalité du monde qui nous entoure. Cela les rend extrêmement doués pour formuler des pensées et des idées, mais les inexactitudes sont un effet secondaire qui reste intrinsèque au produit (connu sous le nom d’hallucinations).
Le raisonnement du Dr Kaku se concentre sur l’effet de chevauchement entre l’informatique quantique et la boîte à outils de l’IA. « Nous devons nous habituer à l’idée que les ordinateurs quantiques introduisent une toute nouvelle façon de regarder la réalité », explique le Dr Kaku à Rogan.
Il souligne que le véritable danger réside dans l’intention de l’utilisateur. Selon le Dr Kaku, les ordinateurs quantiques peuvent servir de vérificateur de faits tant attendu pour pallier les défauts et les biais inhérents au système d’IA. Il note que de bonnes idées naissent du combat logique entre toutes sortes d’idées, et que ce paysage de débat ne peut pas exister au sein du logiciel d’IA. « C’est le combat entre les idées qui fait émerger les idées correctes. Et cela ne se produit pas sur Internet », suggère-t-il. Mais avec un ordinateur quantique agissant comme matériel de traitement de l’information, cette conversation peut avoir lieu, conduisant à un système d’IA beaucoup plus précis, prêt à assumer des tâches et des rôles encore plus importants pour améliorer continuellement la société humaine.
L’informatique quantique peut être transformatrice ou tragique, selon l’utilisateur
La principale préoccupation du Dr Michio Kaku concernant la technologie de l’IA ne réside pas dans les limites ou les capacités des systèmes d’IA eux-mêmes. Il est plutôt préoccupé par les douleurs de croissance qui peuvent survenir avec la combinaison de ces ordinateurs plus puissants.
Le danger réside dans le contrôle des capacités de vérification des faits de ce système, estime le Dr Kaku, et cela semble très précis. Les gouvernements du monde entier s’intéressent de plus en plus à la gestion des faits narratifs et à la suppression des voix dissidentes. Cela se manifeste à tous les niveaux de gouvernance et n’est pas un phénomène nouveau. Mais avec Internet, la communication et la diffusion de l’information sont beaucoup plus rapides, et elle peut être utilisée de manière beaucoup plus efficace comme arme. La construction de technologies informatiques responsables peut libérer tout le potentiel d’un système d’IA, ou bien le maîtriser comme une arme de désinformation et de contrôle à grande échelle. C’est le futur potentiel que le Dr Kaku envisage si l’humanité ne parvient pas à se rassembler autour d’une vision positive pour faire progresser continuellement la technologie dans ce domaine.
Il imagine l’informatique quantique comme un grand améliorateur de la condition humaine. Le Dr Kaku note que s’il existe une vie avancée quelque part dans la galaxie, elle a presque certainement perfectionné l’utilisation des ordinateurs quantiques pour franchir le gigantesque bond technologique qui reste encore à accomplir pour l’humanité. Cependant, si de sinistres motifs sous-tendent leur utilisation, la fusion du traitement quantique et de l’IA pourrait représenter plus de danger que d’aube pour l’avenir de l’humanité.
