Les trois premiers épisodes de cette série ont suscité un débat qui mérite mieux qu’une succession de réponses individuelles. Car les lecteurs n’ont pas seulement commenté le fonctionnement de l’intelligence artificielle : ils ont immédiatement posé la question qui se trouve au cœur de notre avenir commun. Si la machine apprend à partir de ce que les humains ont déjà écrit, démontré, imaginé et raconté, ne risque-t-elle pas de tourner indéfiniment à l’intérieur de ce monde connu ? Peut-elle sortir de la boucle, contredire les évidences, découvrir l’inattendu ? A-t-elle besoin de nous pour accomplir ce fameux « pas de côté » qui constitue souvent le commencement de toute invention ?

Partageuse résume parfaitement l’inquiétude. Un mot appelle celui qui lui est habituellement associé, puis un troisième, et bientôt le discours rejoint une route déjà empruntée. Il devient cohérent, élégant, parfois brillant… mais il ronronne. À l’être humain reviendrait alors la responsabilité essentielle : douter, remettre les choses en cause et poser les bonnes questions.

Daniel Z oppose à cette crainte une objection considérable. Des intelligences artificielles explorent désormais des espaces mathématiques immenses, recherchent des contre-exemples, construisent des démonstrations et trouvent parfois des voies que les chercheurs n’avaient pas empruntées. Pourquoi faudrait-il qu’elles pensent comme nous pour découvrir quelque chose de nouveau ? L’avion ne vole pas comme l’oiseau. Pourquoi l’intelligence artificielle devrait-elle reproduire exactement l’architecture du cerveau humain pour produire de la connaissance ? Michel Myard, dans un vigoureux rappel aux exigences de la pédagogie, avoue n’avoir rien compris à cette formulation. Daniel Z en éprouve aussitôt… un doute. Et nous voici presque au centre de notre sujet. Un lecteur avance une hypothèse, un autre la conteste, un troisième l’explique, un quatrième l’enrichit. Chacun oblige les autres à reformuler. La pensée progresse non parce que tout le monde est d’accord, mais parce que personne ne peut rester exactement à la place où il se trouvait. C’est peut-être cela, avant toute chose, le pas de côté.

La machine risque-t-elle de tourner en rond ?

Une intelligence artificielle générative produit ses réponses à partir de régularités apprises dans de grandes quantités de textes. Elle estime quels mots, quelles idées ou quelles formes ont le plus de chances de constituer une suite cohérente.

Ce principe explique son efficacité et aussi sa tendance au conformisme. Si certaines idées ont été très souvent associées dans les données qui lui ont servi d’apprentissage, la machine aura naturellement tendance à les rapprocher. Elle pourra reformuler avec talent une idée déjà répandue, lui donner une apparence nouvelle, l’adapter à un contexte particulier, mais demeurer à l’intérieur d’une cartographie dessinée par les productions humaines. Demandons-lui de décrire un maire, un professeur, un médecin, un mineur ou un quartier populaire. Si nous ne précisons rien, elle risque de mobiliser les représentations les plus fréquentes, avec leurs qualités, leurs lieux communs et parfois leurs préjugés. Elle ne cherche pas spontanément à désobéir aux habitudes. Elle cherche d’abord la réponse la plus plausible.

Or la réponse la plus plausible n’est pas toujours la plus vraie, la plus juste ou la plus inventive. L’histoire des connaissances est remplie d’idées qui furent longtemps plausibles et pourtant fausses. Le Soleil semblait tourner autour de la Terre. Les continents paraissaient immobiles. Certaines maladies furent attribuées aux humeurs, à l’air corrompu ou à la volonté divine. Des hiérarchies sociales furent présentées comme naturelles simplement parce qu’elles étaient anciennes.

Penser consiste parfois à suivre les régularités et penser consiste aussi à s’en méfier.

Le pas de côté humain

Que signifie réellement « faire un pas de côté » ? Ce n’est pas nécessairement produire quelque chose que personne n’a jamais vu. Il est possible de fabriquer une phrase entièrement nouvelle et parfaitement insignifiante. Le pas de côté est plutôt le moment où l’on regarde autrement une situation connue. Il peut naître d’une contradiction, d’un malaise, d’une erreur, d’une intuition, d’une comparaison apparemment absurde, d’une expérience personnelle qui ne correspond pas à la théorie. Quelqu’un affirme que tous les cygnes sont blancs. Un voyageur aperçoit un cygne noir. Ce n’est pas la quantité des connaissances qui change tout : c’est la rencontre d’un fait qui ne rentre pas dans le cadre, comme lorsqu’un chercheur remarque une anomalie que les autres considèrent comme un défaut de mesure, qu’un artiste détourne un objet de son usage, qu’un humoriste rapproche deux réalités qui n’avaient aucune raison de se rencontrer. Alors, le citoyen pose cette question redoutable : « Et si nous nous trompions depuis le début ? »

Ce pas de côté est souvent lié à notre condition humaine. Nous sommes situés quelque part. Nous avons un corps, une histoire, des intérêts, des blessures, des contradictions. Nous ne voyons jamais la totalité du monde, et cette faiblesse peut devenir une force : parce que quelque chose nous échappe, nous cherchons une autre perspective. La machine, elle, ne ressent pas l’inconfort d’une idée qui ne correspond pas à son expérience, en même temps elle n’a pas d’expérience à défendre. Mais cela ne signifie pas qu’elle soit incapable d’explorer des voies nouvelles.

L’intelligence artificielle peut-elle découvrir ?

Oui, à condition de préciser ce que l’on entend par là. Dans plusieurs domaines scientifiques, l’intelligence artificielle ne se contente déjà plus de résumer des connaissances existantes. Elle aide à détecter des structures difficiles à percevoir, à explorer des combinaisons innombrables, à suggérer des conjectures et à rechercher des contre-exemples. En mathématiques, des travaux ont montré qu’elle pouvait guider l’intuition humaine en révélant des relations jusque-là peu visibles, les chercheurs restant chargés de comprendre ces relations, de formuler les bonnes propositions et de construire les démonstrations. Des systèmes spécialisés associent désormais plusieurs capacités. Une composante propose des pistes ; une autre applique des règles logiques et vérifie la solidité du raisonnement. AlphaGeometry, par exemple, combine un modèle capable de suggérer des constructions et un moteur symbolique qui en déduit rigoureusement les conséquences. En 2024, AlphaProof et AlphaGeometry 2 ont résolu quatre des six problèmes des Olympiades internationales de mathématiques, obtenant un résultat correspondant au niveau d’une médaille d’argent. En 2025, une version avancée de Gemini a atteint le niveau de la médaille d’or sur cette même compétition. Il s’agit de problèmes nouveaux, conçus pour éprouver les meilleurs jeunes mathématiciens, et non d’une simple récitation de solutions mémorisées.

La prudence reste cependant nécessaire. Dire que « l’IA a résolu les grandes conjectures qui résistaient depuis un siècle » serait trop général. Certains systèmes contribuent à produire des preuves, des conjectures ou des contre-exemples ; ils n’ont pas pour autant réglé d’un seul mouvement tous les grands problèmes ouverts des mathématiques. La recherche actuelle montre des progrès remarquables, mais elle montre également des limites, notamment dans la compréhension globale, la sélection des problèmes féconds et l’explication du sens profond d’un résultat. Des travaux récents entraînent même spécifiquement des modèles à réfuter des affirmations en produisant des contre-exemples formellement vérifiables.

La réalité est donc plus intéressante que la légende et la machine ne se contente pas toujours de refaire ce que l’homme a déjà fait. Mais lorsqu’elle découvre une piste inattendue, il reste souvent à l’être humain une tâche essentielle : comprendre pourquoi cette piste compte.

Trouver n’est pas comprendre l’importance de ce que l’on trouve.

Imaginez un immense terrain couvert de pierres, une machine peut examiner chacune d’elles, les classer selon leur forme, leur poids, leur composition, puis repérer une pierre unique que personne n’avait remarquée. Elle a découvert quelque chose, mais sait-elle pourquoi cette pierre mérite d’être étudiée ? Peut-être constitue-t-elle la trace d’un phénomène géologique exceptionnel, peut-être n’est-elle qu’une bizarrerie sans conséquence ? La puissance de calcul permet d’explorer, elle ne suffit pas toujours à hiérarchiser la signification. En mathématiques aussi, on peut produire une multitude de propositions vraies. Toutes ne sont pas intéressantes. Un théorème peut être rigoureux, compliqué et parfaitement anecdotique. À l’inverse, une formulation très simple peut ouvrir un continent intellectuel. Le mathématicien ne cherche pas seulement la vérité d’une affirmation, parfois sa beauté, sa portée, sa fécondité, les liens qu’elle crée entre des domaines éloignés, l’élégance de la démonstration.

Une machine peut apprendre à reconnaître les caractéristiques que les humains associent habituellement à l’élégance. Elle peut comparer la longueur des preuves, repérer l’usage inattendu d’un théorème ou mesurer la capacité d’un résultat à en engendrer d’autres. Mais la valeur accordée à cette découverte reste inscrite dans une histoire et une communauté humaine. J’irais même plus loin, la machine peut trouver une aiguille dans une botte de foin, encore faut-il savoir si nous avions besoin d’une aiguille.

L’originalité n’est pas toujours là où nous la cherchons.

Nous imaginons souvent la créativité comme une illumination mystérieuse : une idée surgit, absolument nouvelle, dans l’esprit d’un génie solitaire. Eurêka !!! La réalité est généralement moins romantique. Les humains créent eux aussi en combinant ce qu’ils ont déjà vu : un écrivain hérite d’une langue, un musicien travaille dans une tradition, un scientifique s’appuie sur les résultats de ses prédécesseurs, un dessinateur emploie des formes et des codes que son public reconnaît. En réalité, même l’idée la plus originale possède une généalogie. La différence entre création humaine et génération artificielle ne peut donc pas se résumer ainsi : L’être humain inventerait à partir de rien, tandis que la machine ne ferait que copier. Quelle illusion : personne n’invente à partir de rien, en qualité d’écrivain et poète je le sais bien.

La question est plutôt de savoir comment sont choisies, déplacées et transformées les influences. L’être humain peut rapprocher deux idées parce qu’un souvenir l’émeut, parce qu’une injustice le révolte, parce qu’une situation vécue lui paraît absurde ou parce qu’il poursuit une intention. L’intelligence artificielle peut rapprocher ces mêmes idées parce qu’une relation mathématique, faible mais réelle, existe entre elles dans son espace de représentation. Les chemins diffèrent, le résultat peut parfois se ressembler, mais les bases et le raisonnement ne sont pas identiques. La machine peut donc effectuer une sorte de pas de côté, non parce qu’elle éprouve le besoin de rompre avec une convention, mais parce qu’elle explore des combinaisons trop nombreuses ou trop éloignées pour un esprit humain. Elle ne sort pas nécessairement de la carte. Elle peut cependant parcourir en quelques instants des régions de cette carte que nous n’aurions jamais eu le temps de visiter.

Faut-il penser comme un cerveau pour être intelligent ?

Daniel Z pose ici une question fondamentale. Notre intelligence naît de l’activité physique et électrique d’un cerveau façonné par l’évolution. Elle dépend de neurones, d’un corps, d’un environnement et de millions d’années de sélection naturelle. Pourquoi une intelligence artificielle devrait-elle reproduire exactement cette architecture ? L’histoire des techniques invite effectivement à la prudence car l’avion ne vole pas en imitant fidèlement le battement des ailes, le sous-marin ne nage pas comme un poisson, la calculatrice ne compte pas comme un être humain. En effet, une machine peut parvenir à un résultat comparable par une autre voie. Il est donc tout à fait possible que certaines formes de raisonnement artificiel ne ressemblent jamais au raisonnement humain, tout en devenant extrêmement efficaces.

Mais l’efficacité ne règle pas toutes les questions. Une calculatrice produit un résultat sans connaître la valeur de l’argent, le poids d’une dette ou la violence d’une injustice fiscale. Un système peut établir un lien statistique ou logique entre une cause et un effet sans éprouver ce que signifie subir cet effet. L’architecture différente n’interdit pas l’intelligence. Elle peut en revanche produire une intelligence d’une autre nature, avec d’autres forces, d’autres faiblesses et peut-être des angles morts que nous ne savons pas encore identifier.

Quand nous doutons, nous consultons une machine.

Daniel Z fait aussi cette remarque très juste : « Lorsque j’ai un doute, je fais appel aux capacités d’une machine. » Nous le faisons tous, nous vérifions une date, nous cherchons une définition, nous calculons un itinéraire, nous comparons des documents, nous demandons une traduction. Le doute humain déclenche une recherche, et la machine nous aide à la mener. Mais il faut distinguer deux opérations. La machine peut nous aider à répondre à une question, elle ne décide pas toujours si la question est la bonne. Une réponse précise à une question mal posée peut nous conduire très loin dans la mauvaise direction. Supposons que nous demandions : « Comment convaincre les habitants que cette décision est excellente ? » La machine pourra proposer une stratégie de communication remarquable. Mais peut-être la question préalable aurait-elle dû être : « Cette décision est-elle réellement excellente pour les habitants ? » En qualité d’élu, cela me poursuit sans cesse. Ou encore : « Avons-nous écouté ceux qui en subiront les conséquences ? » L’intelligence artificielle peut nous aider à lever un doute documentaire, mais elle ne doit pas nous dispenser du doute politique, moral ou philosophique. Elle donne volontiers une réponse et il nous appartient encore de nous demander à qui profite la question.

Poser la bonne question suffit-il ?

Plusieurs lecteurs se rejoignent sur ce point : l’essentiel serait de poser les bonnes questions. C’est vrai, mais pas seulement dans le cas d’un dialogue avec l’IA, dans notre vie courante cela s’impose aussi. Mais cela mérite une précision car nous ne savons pas toujours, au commencement d’une recherche, quelle est la bonne question. En fait, elle se construit progressivement. On commence par une formulation maladroite, on obtient une réponse insuffisante, on découvre une contradiction, on revient en arrière, on reformule.

Dans l’échange entre Daniel Z et Michel Myard, la critique humoristique de la formulation n’est pas extérieure au raisonnement. Elle oblige à traduire, à préciser, à vérifier ce que chacun croyait avoir compris. Une idée qui ne peut être partagée demeure parfois enfermée dans celui qui la porte. La pédagogie n’est pas l’ennemie de la profondeur, elle en est souvent l’épreuve. Une intelligence artificielle peut ici jouer un rôle précieux. On peut lui demander : « Reformulez cette idée pour quelqu’un qui ne connaît pas les mathématiques. », « Quel argument pourrait la contredire ? », « Quelles hypothèses ai-je oubliées ? », « Posez-moi cinq questions qui mettraient mon raisonnement à l’épreuve. » La machine devient alors moins une distributrice de réponses qu’une partenaire de questionnement, mais pour qu’elle nous contredise utilement, encore faut-il lui en donner l’autorisation. Si nous ne lui demandons que de confirmer nos convictions, elle saura souvent le faire avec un talent inquiétant. Mais n’est-ce pas en fait la manière de faire entre humains lorsque nous attendons des autres qu’ils confortent nos opinions, convictions et non pas nos doutes ?

L’IA nous rend-elle plus intelligents ?

Nous arrivons à la question centrale de ce quatrième épisode. L’intelligence artificielle peut-elle augmenter notre intelligence ? Oui, incontestablement en ce qu’elle peut accélérer la recherche documentaire, comparer des hypothèses, traduire un vocabulaire spécialisé, repérer une contradiction, simuler des scénarios, proposer des objections, explorer des milliers de possibilités. Donner à une personne isolée un accès à des capacités autrefois réservées à des organisations disposant de moyens considérables. Mais un outil qui augmente nos possibilités ne garantit pas que nous les utiliserons intelligemment. La voiture nous permet d’aller plus loin, elle ne choisit pas la destination. Le moteur de recherche nous donne accès à une immense quantité d’informations. Il ne nous rend pas automatiquement plus cultivés. Une bibliothèque contient des milliers de livres sans obliger personne à les ouvrir. L’intelligence artificielle peut amplifier notre intelligence. Elle peut aussi amplifier notre paresse, nos préjugés, notre crédulité et notre désir d’avoir raison. Elle augmente moins la sagesse qu’elle n’augmente la puissance de celui qui l’emploie. C’est précisément pour cela que la responsabilité humaine devient plus grande, et non plus petite.

Le danger du ronronnement

Partageuse emploie une image très juste : les mots s’enchaînent, rejoignent la boucle et finissent par ronronner. Le danger existe. Une société qui confierait massivement la rédaction, la décision et la création à des systèmes entraînés sur ses propres productions pourrait finir par se répéter elle-même. Les textes futurs seraient nourris par les textes anciens. Les images nouvelles reproduiraient les images les plus fréquentes. Les opinions majoritaires deviendraient encore plus visibles. Les expressions dominantes étoufferaient les voix marginales. La culture risquerait de devenir une immense salle de miroirs. Mais ce destin n’est pas inévitable. L’intelligence artificielle peut également nous aider à rompre la boucle, à condition de ne pas lui demander seulement la réponse moyenne. On peut lui demander de rechercher les exceptions, de présenter l’argument minoritaire, de comparer plusieurs civilisations, d’examiner les conséquences inattendues, de contester notre première conclusion, de produire plusieurs hypothèses incompatibles, de chercher ce qui manque dans un raisonnement. La qualité de l’échange dépend donc largement de l’attitude de l’utilisateur.

Un esprit qui doute peut transformer la machine en instrument critique. Et un esprit qui ne cherche que la confirmation de ses certitudes en fera une remarquable fabrique d’autosatisfaction.

Ni maître ni serviteur

Nous avons longtemps imaginé deux avenirs opposés. Dans le premier, l’être humain commande et la machine obéit. Dans le second, la machine devient autonome et finit par dominer l’être humain. La réalité pourrait être moins théâtrale et beaucoup plus complexe. L’intelligence humaine et l’intelligence artificielle possèdent des qualités différentes : la machine explore vite, l’être humain choisit ce qui mérite d’être exploré, la machine repère des régularités, l’être humain peut s’interroger sur leur signification, la machine conserve une quantité immense d’informations, l’être humain sait parfois qu’un souvenir minuscule compte davantage qu’une encyclopédie entière, la machine produit des solutions, l’être humain doit encore en assumer les conséquences.

La relation la plus féconde ne sera donc probablement ni celle du maître et de l’esclave, ni celle de deux intelligences identiques. Elle ressemblera davantage à une coopération entre des capacités différentes, chacune obligeant l’autre à révéler ses limites. La machine nous contraint à être plus précis, nous devons la contraindre à ne pas confondre précision et vérité.

Elle nous propose des chemins, nous devons encore décider lesquels méritent d’être empruntés.

Ceux qui doutent et ceux qui savent

Partageuse termine son commentaire par une déclaration que l’on pourrait inscrire au fronton de cette série : « Comme j’aime les gens qui doutent et ne se bornent pas à leurs certitudes ! » Je ne suis certain que de mes doutes, c’est ma devise. Le doute n’est pourtant pas l’absence de conviction, il n’est pas une faiblesse, il est la petite distance que l’esprit maintient entre ce qu’il croit et ce qui est. Une certitude peut être nécessaire pour agir, mais le doute reste nécessaire pour corriger l’action. L’intelligence artificielle produit souvent des réponses avec une grande assurance, y compris lorsqu’elles sont fragiles. L’être humain possède lui aussi cette fâcheuse habitude. Nous aurions donc tort d’opposer trop simplement une machine certaine d’elle-même à un homme naturellement critique. Il existe des machines prudentes parce qu’on les a conçues ainsi. Et des humains parfaitement convaincus de tout savoir. La véritable frontière ne passe peut-être pas entre l’homme et la machine. Elle passe entre ceux qui acceptent que leur réponse soit interrogée et ceux qui prennent leur première idée pour une vérité définitive.

Une mutation des possibilités humaines

Sur un point, Daniel Z a certainement raison : notre génération assiste à une mutation extraordinaire des possibilités humaines. Nous pouvons dialoguer avec des systèmes capables de manipuler une immense partie du patrimoine écrit de l’humanité. Nous pouvons explorer en quelques minutes ce qui aurait nécessité autrefois plusieurs jours de recherches. Nous pouvons traduire, comparer, simuler, dessiner, programmer, vérifier et apprendre avec une rapidité encore inimaginable il y a peu. Mais cette mutation ne dit pas ce que nous deviendrons. L’imprimerie a permis la diffusion du savoir et celle de la propagande, la radio a porté la culture et la haine, Internet a rapproché les individus et multiplié les enfermements idéologiques. Une invention ne porte pas seule son usage. L’intelligence artificielle ne décidera pas à notre place si elle devient un instrument d’émancipation, de création, de concentration du pouvoir ou de paresse intellectuelle. Cette décision sera diffuse, progressive, parfois invisible, elle se prendra dans les écoles, les entreprises, les rédactions, les administrations et les foyers, elle se prendra chaque fois que quelqu’un choisira entre utiliser la machine pour penser davantage… ou pour éviter de penser.

L’avenir appartient-il encore aux bonnes questions ?

Oui. Mais les machines apprendront certainement à poser, elles aussi, des questions de plus en plus pertinentes. Elles pourront repérer les incohérences de nos raisonnements, suggérer des hypothèses et identifier les zones d’incertitude. Peut-être feront-elles parfois le pas de côté avant nous. Cela ne signifiera pas que l’être humain est devenu inutile. Cela signifiera que son rôle aura changé. Il ne sera plus toujours celui qui trouve seul. Il sera celui qui choisit, interprète, relie, explique, juge et assume. La question ne sera donc plus : la machine est-elle capable de penser à notre place ? Mais plutôt : sommes-nous encore capables de penser avec un outil qui pense autrement ? Car l’intelligence artificielle ne nous enlève pas nécessairement notre intelligence.  Elle nous interdit surtout de continuer à la définir comme une simple capacité à calculer vite, à mémoriser beaucoup ou à produire une réponse correcte.

Elle nous oblige à chercher ce qui, dans la pensée humaine, ne se réduit pas à la performance, comme le doute, la responsabilité, la conscience des conséquences, le désir de comprendre, la faculté de donner du sens et peut-être cette capacité singulière à reconnaître qu’une question apparemment absurde est parfois plus féconde qu’une réponse parfaitement raisonnable.

Pour savoir si l’intelligence artificielle pouvait réellement sortir des sentiers battus, je lui ai demandé de faire un pas de côté. Elle m’a proposé douze définitions, trois plans d’article, deux théories philosophiques et une liste des risques de chute. Puis elle m’a conseillé de regarder avant de traverser. Je ne sais toujours pas si elle est créative. Mais question prudence, elle commence sérieusement à ressembler à ma grand-mère.

Gilles Desnoix