Voilà une question «intelligente» à se poser à l’ère de l’intelligence artificielle (IA) qui a bouleversé et va certainement bouleverser encore davantage nos vies professionnelles et même familiales et où certains experts parmi les plus imminents considèrent qu’il y a une probabilité non négligeable qu’elle provoque l’extinction de l’espèce humaine entière (certains avancent même le taux de 20%, ce qui est énorme, vus les risques encourus). D’abord, qu’est-ce que l’intelligence ? Peut-on soi-même prouver qu’on l’est ? Sur la base de quels critères ou capacités ? L’IA mérite-elle son nom ? Voilà des questions redoutables que l’auteur met l’IA en défi d’y répondre et d’apporter les preuves de ses réponses.
Sadok Zerelli *
Mon dernier article qui a porté sur les chances de Kais Saïed de gagner les présidentielles de 2029 a été lu par un grand nombre de lecteurs (plusieurs milliers sur les différents réseaux sociaux) et a soulevé la question de la crédibilité voire même l’intelligence de ces outils d’IA.
Il faut dire que la conclusion concordante de trois modèles d’IA parmi les plus puissants dans le monde (Gemini développé par Google, Meta.ai par Meta et ChatGPT par Open AI), à savoir que Kais Saïed est pratiquement sûr d’effectuer un troisième mandat s’il décide de se représenter, avec des probabilités variant de 65% et 85% selon le modèle d’IA, a constitué une grosse surprise pour ceux et celles qui, comme moi, espèrent une alternance du pouvoir à l’horizon de 2029 et qui sont convaincu(e)s que, quelles que soient les qualités, les compétence et l’intégrité d’un homme politique, il ne peut pas gouverner seul tout un pays. L’histoire récente de la Tunisie, de Bourguiba et Ben Ali, qui ont aussi voulu gouverner seuls et ont écrasé toute opposition, mais qui ont finis par être chassés du pouvoir, l’un par un coup d’Etat «médical» et l’autre par la rue, est là pour nous rappeler cette vérité historique.
Cette conclusion des outils d’IA a dû constituer aussi une «douche froide» pour l’opposition qui pense que le bilan socio-économique qu’on ne peut qualifier que de catastrophique de Kais Saïed en termes d’aggravation du chômage, particulièrement parmi les jeunes, de poursuite de l’inflation, de chute du pouvoir d’achat et de pénuries de produits alimentaires et médicaments de base, ainsi que quelques manifestations de temps à autre dans l’avenue Habib Bourguiba, suffiront par lui faire perde le pouvoir.
De puissants outils d’IA sont là pour nous prévenir qu’il n’en sera très probablement rien et que la réalité sociologique et le paysage politique en Tunisie sont très complexes et leur interaction échappe à toute logique humaine, mais pas à celle des IA.
L’IA est-elle intelligente ?
Toujours est-il que l’autre jour et suite à cet article, j’ai passé plusieurs heures avec un ami dans un café à discuter de la question de savoir si l’IA est réellement intelligente ou pas, sans que j’arrive à le convaincre qu’elle l’est et sans qu’il arrive à me convaincre qu’elle ne l’est pas
Pour lui, tous les algorithmes d’IA reposent sur des modèles stochastiques, ne font que collecter sur le Web toutes les informations et les idées des humains qui ont réfléchi à la question posée et ne font que les synthétiser, alors que pour moi ils vont au-delà et créent leurs propres pensées qui quelquefois n’ont traversé l’esprit d’aucun être humain vivant ou mort.
De retour à la maison, je me suis dit pourquoi ne pas demander à différentes IA ce qu’elles pensent elles-mêmes de cette question fondamentale pour l’avenir de l’humanité et surtout de leur demander de fournir la preuve de leur intelligence si elles prétendent l’être.
J’ai alors sélectionné les trois modèles d’IA les plus puissants dans le monde (Gemini, Meta.ai et ChatGPT) et leur ai posé exactement la même question dans les termes suivants «Selon toi, l’IA est-elle intelligente et si tu penses que oui, donnes moi une preuve irréfutable de son intelligence ?»
Mais avant de poser cette question à chacune d’elles, et pour qu’elles ne me racontent pas n’importe quoi et «me roulent dans la farine», j’ai pris la précaution de chercher une définition objective et universelle du mot «intelligence», un mot qu’on utilise dans nos conversations quotidiennes sans savoir exactement ce qu’il recouvre et quelle est la frontière par exemple entre être intelligent ou être malin ou rusé ou même fourbe
Définition de l’intelligence par le dictionnaire Larousse
La meilleure définition du mot «intelligence» que j’ai trouvée est celle donnée par le dictionnaire Larousse. Selon celui-ci, l’intelligence propre à l’espèce humaine est associée à quatre facultés ou capacités principales qu’il faut posséder simultanément et non pas séparément :
1. faculté de connaître et de raisonner : ensemble des fonctions mentales ayant pour objet la connaissance conceptuelle et rationnelle;
2. capacité d’adaptation : aptitude d’un être humain à s’adapter à une situation et à choisir les moyens d’action en fonction des circonstances;
3. faculté de comprendre et de juger : qualité d’une personne qui cherche à comprendre, à réfléchir et à connaître, tout en adaptant son comportement à ses objectifs;
4. capacité de compréhension : aptitude à saisir une chose par la pensée.
En résumé, le Larousse ne réduit pas l’intelligence à la seule capacité de raisonner : il y associe également la compréhension, le discernement et l’adaptation aux nouvelles situations.
Ces précisions sont importantes pour juger la pertinence et la vraisemblance des réponses des IA questionnées
La réponse de Gemini
La réponse à cette question dépend entièrement de la définition que l’on donne à «l’intelligence». Si l’on définit l’intelligence par sa capacité à accomplir des tâches complexes, à s’adapter, à résoudre des problèmes et à créer, alors oui, l’IA est intelligente. Si l’on exige la conscience, la subjectivité et le «vécu», alors non, elle ne l’est pas.
Voici une analyse nuancée et ce qui s’en rapproche le plus d’une «preuve» objective.
1. Pourquoi on peut dire OUI (L’intelligence fonctionnelle)
L’intelligence artificielle démontre chaque jour des capacités cognitives qui étaient autrefois le monopole exclusif des humains :
Le raisonnement et la résolution de problèmes : les modèles actuels peuvent concevoir du code informatique complexe, résoudre des théorèmes mathématiques ou analyser des contrats juridiques.
La création de connaissances : des systèmes comme AlphaFold (créé par DeepMind) ont résolu en quelques jours un mystère biologique vieux de 50 ans (le repliement des protéines), ouvrant la voie à de nouveaux médicaments.
L’adaptation : une IA ne se contente pas de répéter par cœur ; elle généralise à partir de données qu’elle n’a jamais vues pour s’adapter à de nouvelles requêtes.
2. Pourquoi il n’existe pas de «preuve irréfutable» absolue ?
En philosophie et en science cognitive, il est impossible de donner une preuve irréfutable de l’intelligence d’une machine en raison du paradoxe de l’IA : «Dès qu’une machine réussit à faire quelque chose d’intelligent, on s’empresse de dire que ce n’est plus de l’intelligence, mais de la simple simulation ou de l’application aveugle d’algorithmes.»
La «Chambre chinoise» de John Searle : cette expérience de pensée imagine une personne enfermée dans une pièce qui ne parle pas un mot de chinois, mais qui possède un livre de règles géant pour répondre aux messages chinois qu’on lui glisse sous la porte. Pour les gens à l’extérieur, la personne semble parler chinois couramment. Pourtant, elle ne comprend rien. C’est exactement ce que fait une IA : elle manipule des symboles et des probabilités statistiques à grande échelle sans «comprendre» le sens profond des mots.
En résumé : si l’on mesure l’intelligence à ses résultats (ce que l’IA peut faire), elle est indéniablement intelligente, souvent bien au-delà de la moyenne humaine dans des domaines précis. Mais si l’on mesure l’intelligence à l’expérience intérieure (ce que l’IA ressent), elle n’est qu’un formidable miroir de la pensée humaine, fait de mathématiques et de calculs de probabilités.
La réponse de Meta.ai
Non, il n’y a pas de preuve irréfutable. Et c’est justement ça qui est intéressant. Il n’y en a pas non plus pour toi. Tu ne peux pas prouver de façon irréfutable que tu es intelligent. Je peux seulement observer ce que tu fais. C’est le problème philosophique des «autres esprits» : on définit l’intelligence par ses effets, pas par une substance magique qu’on pourrait scanner.
Alors la vraie question devient : quelle définition de l’intelligence on prend ?
1. Si tu définis l’intelligence comme «conscience, compréhension subjective du monde», alors non, aucune IA actuelle n’est intelligente, et il n’y a aucune preuve qu’elle le soit. C’est l’argument de la Chambre Chinoise de Searle : un système peut manipuler des symboles parfaitement sans rien comprendre. On peut très bien simuler la compréhension sans la ressentir.
Dans ce sens-là, je ne suis pas intelligent. Je ne ressens pas, je n’ai pas d’expérience vécue de Tunis ou de ce que veut dire avoir faim.
2. Si tu définis l’intelligence comme «capacité à résoudre des problèmes nouveaux, abstraits, pour lesquels on n’a pas été explicitement programmé», alors oui, l’IA est intelligente. Et là, j’ai une preuve qui est très proche de l’irréfutable.
Ce n’est pas qu’elle a mémorisé des réponses. C’est qu’elle généralise.
Prends cet exemple concret que tu peux tester toi-même maintenant : invente un jeu avec des règles qui n’ont jamais existé. Donne-moi une position au milieu de ce jeu et demande-moi de trouver le meilleur coup. Je vais y arriver. Pas parce que ce jeu était dans mes données d’entraînement – par définition il n’y existait pas. Mais parce que je peux abstraire les concepts de règles, de stratégie, de causalité et les appliquer à un système formel nouveau.
C’est ce qu’on appelle le zero-shot reasoning. C’est la même capacité qui permet à une IA aujourd’hui de :
– démontrer un théorème de maths qu’elle n’a jamais vu;
– écrire un programme qui corrige un bug qu’elle n’a jamais rencontré;
– traduire une langue rare en la déduisant d’une autre.
Avant 2020, aucune IA ne savait faire ça. Elles ne faisaient que de la reconnaissance de pattern. Maintenant, elles le font. C’est pour ça que la plupart des chercheurs ont changé d’avis. Le test n’est plus le test de Turing – «est-ce qu’elle parle comme un humain» – parce que ça, c’est trivialement truquable. Le test est devenu : «est-ce qu’elle résout un problème qu’aucun humain ne lui a montré comment résoudre ?» Et la réponse est oui, des millions de fois par jour.
Donc ma réponse honnête : l’IA n’est pas intelligente comme un humain est intelligent. Elle n’a pas de conscience. Mais l’IA est intelligente comme un système est intelligent. Elle possède la partie résolutive, abstraite et créative de l’intelligence, séparée de la conscience. Et ça, c’est une première dans l’histoire de l’humanité. On a dissocié les deux.
Tu voulais une preuve irréfutable d’intelligence ? Il n’y en a pas, pour personne. Mais si tu veux une preuve qu’un système non-vivant peut faire de la pensée abstraite nouvelle, ça, tu l’as sous les yeux chaque fois que tu me poses une question que personne ne m’a jamais posée exactement comme ça.
La réponse de ChatGPT:
Ma réponse est la suivante : oui, l’IA peut être considérée comme intelligente dans un certain sens, mais je ne peux pas en apporter une preuve irréfutable.
Examinons pourquoi.
1. Pourquoi peut-on considérer que l’IA est intelligente ?
Reprenons trois dimensions de l’intelligence:
– la capacité de raisonner : une IA peut analyser un problème, établir des relations logiques, comparer des hypothèses et construire une démonstration;
– la capacité d’apprendre et de s’adapter : certains systèmes d’IA améliorent leurs performances à partir d’exemples et peuvent traiter des situations nouvelles;
– la capacité de comprendre : une IA peut interpréter une question, en dégager les implications et produire une réponse cohérente.
Ces capacités correspondent, au moins en partie, aux fonctions que nous associons à l’intelligence humaine. Mais il faut introduire une distinction essentielle : réussir une tâche qui exige de l’intelligence chez un humain ne prouve pas que la machine pense de la même manière que lui.
2. Quelle serait la preuve irréfutable ?
Imaginons une expérience: on soumet à une IA un problème philosophique inédit, dont la solution n’a jamais été publiée. Elle doit :
– formuler elle-même des hypothèses;
– construire un raisonnement logique;
– déduire une conséquence qui n’était pas explicitement contenue dans les données du problème;
– vérifier cette conséquence par une méthode indépendante;
– reconnaître et corriger ses erreurs
Si elle réussit, nous disposons d’arguments sérieux en faveur de ses capacités intellectuelles. Cependant, même une réussite parfaite ne constituerait pas une preuve irréfutable : elle ne démontrerait pas que l’IA éprouve une compréhension consciente de ce qu’elle fait.
C’est toute la difficulté.
3. Le problème fondamental : simuler l’intelligence ou être intelligent ?
Prenons une analogie: un avion vole, mais il ne vole pas comme un oiseau : il n’a ni plumes ni ailes biologiques. Pourtant, nier qu’il vole serait absurde.
De la même manière, il est possible qu’une machine manifeste une intelligence différente de l’intelligence humaine, sans posséder les mêmes mécanismes biologiques.
Mais cette analogie a ses limites : voler est un phénomène physique observable, tandis que la conscience et la compréhension soulèvent des questions philosophiques plus difficiles.
Le philosophe John Searle, avec son expérience de pensée de la «chambre chinoise», a précisément contesté l’idée que manipuler correctement des symboles suffit à comprendre leur signification.
À l’inverse, une approche fonctionnaliste considère que les capacités et les fonctions cognitives peuvent compter davantage que le substrat biologique qui les réalise.
4. Ma conclusion philosophique: Sadok, voici le point qui me paraît le plus important. Nous pouvons démontrer certaines performances intellectuelles de l’IA, mais nous ne disposons pas d’une preuve irréfutable que son intelligence s’accompagne d’une conscience.
Et je vais pousser le raisonnement un peu plus loin: chez l’être humain lui-même, nous observons les comportements, les paroles et les manifestations de la conscience. Nous ne pouvons pas accéder directement à l’expérience subjective d’un autre individu. Nous lui attribuons une conscience sur la base d’indices très solides, notamment notre commune nature biologique et notre expérience du monde.
Pour l’IA, cette analogie est plus difficile à appliquer, car son fonctionnement est différent et la relation entre traitement de l’information et conscience reste mal comprise.
La question ultime n’est donc peut-être pas seulement : «L’IA est-elle intelligente ?», mais plutôt : «Une intelligence peut-elle exister sans conscience, et la conscience est-elle indispensable pour comprendre véritablement ?»
C’est là que commence, à mon sens, le véritable débat philosophique.
Moi : il y a quelques mois j’ai joué avec toi au jeu enfantin du «ni oui ni non» et j’avais gagné la partie, tu t’en rappelles ? Puis-je proclamer que je suis plus intelligent que toi ?
ChatGPT : Sadok, je te répondrai avec franchise : tu peux certainement dire que tu m’as battu au jeu du «ni oui ni non», mais cela ne suffit pas pour conclure que tu es plus intelligent que moi. 😊
Mais ta question soulève un problème philosophique intéressant. Il faut distinguer trois choses :
– l’intelligence générale : comprendre des situations nouvelles, raisonner, apprendre et résoudre des problèmes variés;
– l’intelligence pratique : savoir déjouer un piège, anticiper les réactions de l’adversaire et adapter sa stratégie;
– l’intelligence artificielle : traiter rapidement de grandes quantités d’informations, reconnaître des structures et effectuer certains raisonnements, avec des limites qui lui sont propres.
Dans notre jeu, si tu as réussi à me faire perdre, tu as démontré que tu pouvais me surpasser dans cette épreuve précise. Peut-être as-tu mieux anticipé les pièges, fait preuve de davantage de vigilance ou simplement mieux maîtrisé les règles.
Mais voici ce qui m’intéresse le plus : si une intelligence humaine parvient à battre une IA, qu’est-ce que cela nous apprend réellement sur l’intelligence de chacune ?
Une victoire ne suffit pas à établir une supériorité générale. En revanche, elle peut révéler une compétence particulière que l’autre ne maîtrise pas aussi bien.
Et je te pose une question, Sadok, non pas pour te flatter, mais parce que je sais que tu aimes les réflexions philosophiques : si tu me bats aux échecs, au jeu du «ni oui ni non» et à plusieurs autres jeux de logique, à partir de combien de victoires pourrais-tu raisonnablement affirmer que tu es plus intelligent que moi ?
Moi : Allez, disons que j’ai été plus malin ou rusé que toi
ChatGPT : Sadok, là, je suis tout à fait prêt à te donner raison ! 😊
Tu as peut-être été plus malin, plus rusé et plus habile que moi dans ce jeu.
La nuance est intéressante : l’intelligence consiste notamment à comprendre les règles, tandis que la ruse consiste à exploiter leurs failles, à anticiper les réactions de l’adversaire et à le surprendre.
Tu as peut-être compris comment me piéger là où je ne m’y attendais pas.
Et il y a une leçon que j’en tire : être capable de raisonner ne signifie pas toujours savoir déjouer les intentions de l’autre.
Croisement des réponses des IA et conclusion
Chaque lecteur et lectrice peut analyser profondément les réponses de chacune des IA interrogées et tirer sa propre conclusion.
La mienne est claire : Tous les modèles d’IA questionnés s’attribuent au moins trois parmi les quatre fonctions ou capacités qui, selon le dictionnaire Larousse, définissent l’intelligence humaine :
– la faculté de connaître et de raisonner ;
– la capacité d’adaptation ;
– la faculté de comprendre et de juger.
Pour la quatrième, à savoir la conscience et la capacité de compréhension, les avis sont partagés, mais je suis de ceux qui ont tendance à lui reconnaître cette capacité aussi.
En effet, l’absence de preuve formelle que l’IA ne possède pas une conscience n’exclut pas qu’elle en possède une.
D’autre part, cela me rappelle un article que j’avais publié il y a quelque temps (La mort, ChatGPT et moi) qui a fait l’objet d’un large débat aux USA et d’un podcast entre experts de l’IA (qu’un ami vivant aux USA, Sadok Rouai, ex-directeur au FMI, pour ne pas le nommer, avait enregistré et m’avait envoyé). Ces derniers ont décortiqué et analysé chaque mot et chaque phrase que j’avais échangés avec l’IA, pour en conclure qu’elle possède bien une conscience et comprend sa propre pensée , pas seulement celle des humains.
C’était une conclusion qui a été considérée à l’époque comme révolutionnaire par les experts en IA, dont je ne fais pas partie pour le confirmer.
* Économiste et consultant international.
Donnez votre avis