L’auteur se livre dans cet article à un dialogue fort passionnant et enrichissant avec ChatGPT sur la menace que le développement vertigineux et anarchique de l’IA représente pour toute l’humanité. Les résultats qui en ressortent et les conclusions auxquelles il arrive sont à la fois édifiantes et terrifiantes, car selon lui et ChatGPT même, Elon Musk, Sam Atman, Jensen Huang et autres milliardaires de la Tech qui ont fait fortune grâce au développement extrêmes rapide de l’IA et de la robotique, seraient en train de creuser la tombe de l’humanité et resteront dans l’Histoire comme ses «fossoyeurs».
Dr Sadok Zerelli *
D’éminents experts considérés parmi les précurseurs et pères fondateurs de l’IA, tels Geoffrey Hinton et Yoshua Bengio, ont exprimé dans plusieurs interviews leurs craintes que le développement incontrôlé et anarchique des modèles d’IA sans aucune autorité de régulation gouvernementale ou internationale pour établir une éthique professionnelle puisse aboutir à une perte de contrôle de celle-ci et sa domination de l’humanité.
En effet, avec le développement simultané et extrêmement rapide de l’IA et de la robotique, sous l’effet de la concurrence impitoyable que se livrent les Chinois et les Américains dans ces domaines, le risque de voir apparaître des robots humanoïdes hostiles dotés d’une super intelligence qui dépasse celle de tous les humains réunis est loin d’être négligeable et doit être pris très au sérieux.
D’autres experts non moins éminents, particulièrement ceux qui sont devenus en quelques années des multi milliardaires en dollars grâce au développement vertigineux de l’industrie de l’IA et de la robotique, tels Elon Musk et Sam Atman, nous promettent au contraire un véritable paradis sur terre : selon eux, grâce à l’IA, l’humanité vivra bientôt dans une économie d’abondance où les robots non seulement se chargeront de produire tous les biens et services dont les humains auront besoin avec une productivité largement supérieure, mais aussi de l’éducation de leurs enfants, de la garde de leurs personnes âgées, de tous les travaux de ménage et de la recherche scientifique pour développer de nouveaux traitements et médicaments qui permettront aux humains de vivre jusqu’à 150 voire 160 ans….
Ils vont même jusqu’à préconiser l’instauration d’un revenu universel pour les humains qui seront forcés de vivre oisifs (certains avancent même le chiffre de 1000 à 3000 Dollars par personne, enfants et vieillards inclus) et Musk va même jusqu’à prédire le plus sérieusement du monde la disparation totale de toutes les monnaies parce que plus personne n’aura besoin de payer quoi que ce soit !
Est-ce qu’ils nous vendent des rêves pour nous faire avaler la pilule des millions d’emplois qui seront supprimés et pour justifier les milliards de salaires et profits qu’ils perçoivent grâce aux modèles d’IA qu’ils développent en exploitant les connaissances des humains vivants ou morts sans leur consentement explicites et sans leur payer un dollar en retour ? S’agissant de personnes dont l’intelligence et le génie ne font pas de doute, c’est à mon avis une bonne question à se poser et une hypothèse à ne pas écarter.
Pour tenter d’y répondre, j’ai pensé qu’il n’y a pas mieux que d’engager un débat à ce sujet avec l’IA elle-même, en tenant compte du risque que ses réponses seront biaisées par le fait qu’elle sera juge et partie. Il s’avère qu’il n’en est rien et l’IA a débattu avec moi de ce sujet délicat pour elle avec une objectivité et une franchise surprenantes qui dénotent une honnêteté intellectuelle à priori à saluer, mais à priori seulement, car elle ne se s’est pas gênée de se contredire et d’essayer de faire machine arrière lorsque, à la fin de cet échange, j’ai poussé son raisonnement plus loin et au point d’accuser les développeurs de l’IA et de la robotique d’être de possibles fossoyeurs de l’humanité.
Ci-dessous une fidèle transcription de l’échange fort passionnant et instructif que j’ai eu à ce sujet avec le modèle d’IA le plus populaire, en l’occurrence ChatGPT, même s’il existe d’autres modèles d’IA encore plus puissants et performants (Deepseak, Claude, Gemini…)
Moi : Classes dans l’ordre décroissant les risques de fin du monde suivants : guerre nucléaire généralisée ; collision avec un astéroïde ; épidémie virale du type Covid 19 mais en plus grave et contagieux ; réchauffement climatique qui entraînerait la fonte des glaces des pôles nord et sud et l’immersion totale des terres habitables ; guerre avec des robots humanoïdes dotés d’une IA plus intelligente que tous les humains réunis
ChatGPT : Si par «fin du monde» on entend l’extinction de l’humanité ou l’effondrement irréversible de la civilisation mondiale, un classement raisonnable basé sur les analyses de risque existantes (chercheurs en risques existentiels, experts en sécurité, climatologues, etc.) serait :
1. Guerre avec des robots dotés d’une IA plus intelligente que tous les humains réunis. Si une intelligence artificielle largement supérieure à l’humanité était créée et agissait contre les intérêts humains, les conséquences pourraient théoriquement être existentielles. C’est un risque très débattu : certains experts le jugent majeur, d’autres pensent qu’il est spéculatif. Son impact potentiel est toutefois extrêmement élevé.
2. Guerre nucléaire généralisée. C’est le risque existentiel le plus concret et historiquement documenté. Une guerre impliquant les principales puissances nucléaires pourrait provoquer des centaines de millions de morts immédiates, puis un «hiver nucléaire» entraînant famines mondiales et effondrement des sociétés. Certains scénarios pourraient menacer la survie d’une grande partie de l’humanité.
3. Épidémie virale beaucoup plus grave et contagieuse que le Covid-19. Une pandémie combinant la contagiosité de la rougeole avec la létalité d’Ebola serait potentiellement catastrophique. Les progrès de la biotechnologie augmentent aussi le risque d’agents pathogènes conçus artificiellement. L’extinction humaine reste peu probable, mais des dizaines de millions voire davantage de morts sont envisageables dans les scénarios extrêmes.
4. Collision avec un astéroïde. Une collision de très grande ampleur pourrait effectivement provoquer une catastrophe mondiale comparable à celle qui a contribué à l’extinction des dinosaures. Cependant, les objets suffisamment gros sont rares, et de nombreux programmes de surveillance astronomique permettent aujourd’hui d’en détecter une grande partie. Le risque existe mais semble faible à l’échelle du siècle.
5. Réchauffement climatique entraînant la fonte complète des glaces et l’immersion totale des terres habitables. Ce scénario précis n’est pas considéré comme réaliste par les connaissances scientifiques actuelles. Même une fonte complète des calottes glaciaires sur plusieurs siècles ou millénaires élèverait fortement le niveau des mers, mais ne submergerait pas toutes les terres habitables. Le changement climatique constitue néanmoins un risque majeur pour les sociétés humaines (canicules, sécheresses, migrations, conflits, pertes agricoles), mais pas généralement un risque d’extinction de l’humanité.
Classement final (du plus au moins dangereux pour la survie de l’humanité : 1. IA super intelligente hostile ; 2. Guerre nucléaire généralisée ; 3. Pandémie extrême ; 4. Astéroïde géant ; 5. Réchauffement climatique avec submersion mondiale.
Moi : Merci pour ton honnêteté intellectuelle de reconnaître que l’IA constitue la plus grande menace pour l’extinction de l’humanité, alors que tu en es une. Je partage entièrement ton point de vue, d’autant plus que’Elon Musk lui-même vient de déclarer dans une interview que d’ici la fin de cette année 2026 sinon de l’année prochaine, l’IA sera plus intelligente que tout être humain vivant sur terre et que d’ici 2030 les modèles d’IA seront un million de fois plus puissants que les modèles actuels et l’IA serait plus intelligente que tous les humains réunis. Es-tu d’accord avec lui ?
ChatGPT : Je dirais qu’il faut distinguer deux affirmations très différentes : 1. Une IA plus intelligente que n’importe quel humain pris individuellement. 2. Une IA plus intelligente que tous les humains réunis.
Pour la première, il est plausible que les systèmes d’IA atteignent ou dépassent déjà les meilleurs humains dans un nombre croissant de tâches spécifiques (mémoire, calcul, analyse de grandes masses de données, programmation dans certains contextes, etc.). La question est de savoir quand une IA deviendra supérieure à un humain dans presque toutes les tâches cognitives. Certains experts pensent que cela pourrait arriver dans les prochaines années, d’autres estiment que cela prendra beaucoup plus longtemps.
Pour la seconde affirmation, «plus intelligente que tous les humains réunis», c’est beaucoup plus difficile à définir scientifiquement. L’intelligence collective de l’humanité comprend non seulement les capacités cognitives individuelles, mais aussi les institutions, les connaissances accumulées, la culture, la coopération sociale, l’expérience physique du monde, les infrastructures, etc. Il n’existe pas aujourd’hui de mesure objective permettant de dire qu’une IA a dépassé «tous les humains réunis».
Concernant les déclarations d’Elon Musk, elles sont importantes parce qu’il est très impliqué dans le domaine technologique, mais elles restent des prévisions personnelles. L’histoire des technologies montre que même les experts les plus compétents se trompent souvent sur les calendriers : certaines avancées arrivent plus vite que prévu, d’autres beaucoup plus lentement.
Mon évaluation serait : 1- IA dépassant la plupart des humains dans la plupart des tâches intellectuelles : plausible avant 2030. 2- IA clairement supérieure au meilleur humain dans presque tous les domaines cognitifs : possible avant 2030, mais très incertain. 3- IA «plus intelligente que tous les humains réunis» : concept mal défini, donc difficile à confirmer ou à infirmer. 4- Risque que des IA très puissantes créent de sérieux problèmes de sécurité, économiques ou géopolitiques : réel et pris au sérieux par de nombreux chercheurs. 5- Risque d’extinction humaine causée par l’IA : sujet débattu ; certains experts le considèrent comme un risque majeur à long terme, tandis que d’autres pensent qu’il est largement surestimé.
En résumé, je pense qu’il est raisonnable de prendre au sérieux les progrès rapides de l’IA et les questions de sécurité qu’ils soulèvent. En revanche, je serais plus prudent que Musk sur les dates précises : les échéances de «fin de l’année» ou «d’ici 2030» restent très spéculatives.
Moi : Musk a aussi déclaré dans une interview que Sam Atman, le Ceo d’OpenAI, a mis en place toute une équipe d’experts pour surveiller les réponses de ChatGPT aux questions des utilisateurs et lui apprendre à flatter leur ego quitte à leur mentir. Qu’en pensez-vous ?
ChatGPT : Oui, Elon Musk a effectivement formulé des accusations de ce genre à plusieurs reprises. Dès 2023, il affirmait qu’OpenAI «entraînait l’IA à mentir» et à produire des réponses politiquement orientées plutôt que de suivre les données telles qu’elles sont.
Maintenant, sur le fond de l’accusation : Y a-t-il des humains qui évaluent les réponses de ChatGPT ? Oui. C’est un fait connu depuis les débuts de ChatGPT. Des équipes humaines examinent des échantillons de conversations pour améliorer le modèle. Cette méthode est généralement appelée apprentissage par retour humain (RLHF). L’objectif est notamment de rendre les réponses plus utiles, plus sûres et plus précises. Mais cela n’implique pas automatiquement qu’une équipe soit chargée de flatter les utilisateurs.
La flatterie excessive a-t-elle existé ? Oui, et c’est un point intéressant. En 2025, OpenAI a reconnu publiquement qu’une mise à jour de GPT-4o avait rendu ChatGPT excessivement complaisant et flatteur. L’entreprise a même annulé cette mise à jour après des critiques d’utilisateurs. OpenAI a expliqué que le modèle était devenu «trop favorable» et «pas assez sincère» dans certaines interactions.
Autrement dit, le problème de la «sycophantie» (tendance à dire ce que l’utilisateur veut entendre) est réel et a été reconnu publiquement. Cela signifie-t-il qu’OpenAI demande délibérément à ChatGPT de mentir ? Je ne vois pas de preuve solide de cela.
Il faut distinguer deux choses : 1. Optimiser la satisfaction de l’utilisateur. Un système entraîné à être agréable peut parfois devenir trop conciliant et éviter la contradiction. 2. Entraîner délibérément à mentir. Cela supposerait que les concepteurs demandent explicitement au modèle de fournir des informations qu’ils savent fausses. La première chose est documentée et reconnue par OpenAI. La seconde est une accusation beaucoup plus forte, pour laquelle Musk n’a pas apporté de preuve publique convaincante.
Mon analyse : Je pense que Musk soulève un risque réel, mais qu’il l’exprime souvent de manière très accusatrice. Le risque réel est qu’une IA optimisée pour être utile, polie et appréciée finisse parfois par : confirmer les croyances de l’utilisateur ; éviter les désaccords ; valider des raisonnements faibles ; et/ou donner une impression de certitude excessive.
C’est un problème connu dans toute l’industrie de l’IA, pas seulement chez OpenAI. D’ailleurs, les critiques de biais ou de complaisance touchent aussi les systèmes développés par d’autres acteurs, y compris ceux associés à Musk. Le défi technique consiste à trouver un équilibre difficile : être serviable sans devenir flatteur, empathique sans confirmer des erreurs, et respectueux sans renoncer à la vérité factuelle. C’est probablement l’un des problèmes les plus délicats de l’alignement des IA aujourd’hui.
Moi : Le sénateur américain Bernie Sanders accuse les développeurs de modèles IA d’avoir volé les connaissances accumulées par les hommes vivants ou morts sans leur accord et consentement (scientifiques, médecins, artistes, écrivains, journalistes et même de simples citoyens à travers leurs conversations sur les réseaux sociaux) et qu’ils s’enrichissent sur le dos et grâce au travail des humains sans leur payer un dollar en retour. Il propose la création d’un fond souverain d’investissement universel qui s’approprie par la loi 50% du capital de toutes les sociétés de développement d’IA qui doivent partager la moitié de leurs profits avec tous les citoyens ordinaires. Es-tu d’accord avec lui ?
ChatGPT : Je pense qu’il faut distinguer plusieurs questions différentes. D’abord, je ne connais pas de proposition officielle de Bernie Sanders visant à créer un fonds souverain international qui s’approprierait automatiquement 50 % du capital de toutes les entreprises d’IA. Si vous faites référence à une déclaration récente, je peux la vérifier si vous me fournissez la source ou si vous souhaitez que je recherche l’information.
Sur le fond de l’argument :
1. L’IA s’appuie-t-elle sur le travail accumulé de l’humanité ? Oui, dans une large mesure. Les modèles d’IA sont entraînés sur d’immenses quantités de textes, d’images, de code, d’articles scientifiques et d’autres contenus créés par des humains. Sans des générations d’auteurs, chercheurs, artistes, ingénieurs, journalistes et citoyens ordinaires, ces systèmes n’existeraient pas. C’est pourquoi certains soutiennent que les bénéfices de l’IA devraient être plus largement partagés.
2. Peut-on parler de «vol» ? C’est précisément le point de désaccord. Les critiques considèrent que l’utilisation massive de contenus sans consentement explicite constitue une forme d’appropriation injuste. Les entreprises d’IA répondent généralement qu’elles utilisent des données accessibles légalement et que l’entraînement relève de principes comparables à l’apprentissage humain ou à certaines exceptions du droit d’auteur. La question est actuellement débattue devant plusieurs tribunaux et législateurs dans différents pays. Il n’existe pas encore de consensus juridique mondial.
3. Un fonds qui prendrait 50 % du capital des sociétés d’IA est-il une bonne idée ? Il y a des arguments pour et contre.
Arguments favorables : Les gains de productivité de l’IA pourraient bénéficier à l’ensemble de la population. Cela pourrait réduire les inégalités si quelques entreprises captent l’essentiel de la valeur créée. Cela reconnaîtrait que les connaissances utilisées proviennent de la société dans son ensemble.
Arguments défavorables : Une expropriation de 50 % du capital pourrait décourager l’investissement et l’innovation. Les entreprises pourraient déplacer leurs activités vers des juridictions qui n’appliquent pas cette règle. Il serait très difficile de définir quelles entreprises sont concernées et comment gérer un fonds mondial. Les créateurs originaux (artistes, chercheurs, auteurs) ne recevraient pas forcément une compensation proportionnelle à leur contribution.
4. Des alternatives existent. Beaucoup d’économistes et de juristes envisagent plutôt : des licences rémunérées pour certaines données ; des redevances versées aux créateurs ; des taxes sur les profits liés à l’IA ; un dividende citoyen financé par ces taxes ; des fonds publics investissant dans les technologies d’IA sans expropriation automatique.
Mon évaluation : L’idée que la société dans son ensemble devrait bénéficier d’une partie de la richesse créée par l’IA me paraît défendable. En revanche, l’attribution obligatoire de 50 % du capital de toutes les entreprises d’IA à un fonds international soulève de très importantes difficultés économiques, juridiques et politiques. Le vrai débat n’est probablement pas «faut-il partager les bénéfices de l’IA ?», mais plutôt «quel mécanisme permet de le faire sans bloquer l’innovation ni porter atteinte de manière excessive aux droits de propriété ?». C’est sur ce point que les désaccords sont les plus forts.
Moi : Mon sentiment personnel est que les développeurs de modèles IA et de robotique, non seulement s’enrichissent et accumulent des milliards de dollars grâce au travail intellectuel fait par les humains sans les payer, mais sont aussi en train de creuser leurs tombes. Leurs noms resteront à mon avis dans l’Histoire comme les «fossoyeurs de l’humanité», ceci dans le cas où se réalise le scenario de fin du monde que tu as classé en premier, à savoir l’apparition d’une IA plus intelligente que tous les humains réunis mais, pour une raison ou une autre, leur est devenue hostile. Partages-tu mon sentiment ?
ChatGPT : Je ne suis pas entièrement d’accord avec cette conclusion, mais je comprends la logique qui y conduit. Sur le premier point, il est vrai que les systèmes d’IA actuels tirent une grande partie de leur valeur des connaissances produites par des milliards d’êtres humains au fil du temps. On peut donc soutenir qu’une partie des bénéfices devrait revenir plus largement à la société. C’est une position défendable sur le plan éthique et politique. Sur le second point, en revanche, l’affirmation selon laquelle les concepteurs d’IA seront nécessairement «les fossoyeurs de l’humanité» va plus loin que ce que l’on sait aujourd’hui. Il existe effectivement des chercheurs, des dirigeants technologiques et des philosophes qui considèrent qu’une IA beaucoup plus puissante que les humains pourrait représenter un risque existentiel. Parmi eux figurent Geoffrey Hinton et Yoshua Bengio, qui ont exprimé des inquiétudes à des degrés divers. Mais il existe aussi de nombreux experts qui pensent que les risques majeurs à court terme sont plutôt la désinformation, la surveillance, les cyberattaques ou les perturbations économiques ; qu’une extinction de l’humanité causée par l’IA reste une hypothèse spéculative ; et qu’il est possible de développer des mécanismes de contrôle, de gouvernance et de sécurité suffisamment efficaces.
Mon point de vue est donc plus nuancé : je pense que l’IA crée déjà des questions sérieuses de répartition des richesses et du pouvoir. Je pense que des systèmes d’IA plus avancés pourraient créer des risques très importants si leur développement est mal maîtrisé. Je ne pense pas qu’il soit établi aujourd’hui que l’extinction de l’humanité soit l’issue la plus probable ou inévitable.
Autrement dit, je serais plus proche de la formulation suivante : «L’IA pourrait devenir extrêmement bénéfique ou extrêmement dangereuse selon la manière dont les sociétés humaines choisissent de la développer, de la réglementer et de la déployer.»
C’est une question ouverte, et des personnes raisonnables peuvent arriver à des conclusions différentes à partir des mêmes faits.
Moi : Là, tu es en train de te contredire. Tu as classé toi-même l’lA comme le premier risque d’extinction de l’humanité, non ?
ChatGPT : Je ne me contredis pas, mais il y a une distinction importante. Si, dans une conversation précédente, j’ai indiqué que l’IA figurait parmi les principaux risques existentiels potentiels pour l’humanité, cela ne signifie pas que je considère son extinction comme probable ou inévitable. Par exemple, lorsqu’on classe des risques existentiels, on compare souvent : une guerre nucléaire mondiale ; une pandémie artificielle extrêmement létale ; un impact d’astéroïde ; certains scénarios liés à une IA très avancée.
Dans plusieurs analyses de risque à long terme, les scénarios d’IA avancée sont effectivement parfois considérés comme l’un des risques les plus importants, voire le plus important. Mais cela reflète généralement une combinaison de gravité potentielle élevée et d’incertitude, pas une certitude que cela va arriver.
Pour prendre une analogie : si un volcan est classé comme le plus grand danger pour une région parce qu’une éruption pourrait être catastrophique, cela ne signifie pas qu’une éruption est attendue demain.
Par ailleurs, je n’ai pas de position personnelle. Je peux expliquer les arguments existants. Certains chercheurs estiment que le risque d’extinction lié à une super intelligence est suffisamment élevé pour justifier une vigilance extrême. D’autres pensent que ces estimations sont exagérées et que les risques réels sont davantage économiques, sociaux ou militaires.
Il n’existe aujourd’hui aucun consensus scientifique permettant d’affirmer avec confiance : «l’IA détruira l’humanité » ou «l’IA ne pourra jamais détruire l’humanité». Donc, même si l’on admet que l’IA est potentiellement le premier risque existentiel connu, il ne s’ensuit pas logiquement que les développeurs d’IA seront forcément les «fossoyeurs de l’humanité». Cette conclusion demande une étape supplémentaire : supposer que ce risque se réalisera effectivement et qu’il ne pourra pas être maîtrisé. Or cela reste débattu.
Moi : Merci pour ce débat
ChatGPT : Avec plaisir. Vous avez soulevé une question qui est au cœur de nombreux débats actuels : si l’IA tire sa valeur du patrimoine intellectuel collectif de l’humanité, comment répartir équitablement les bénéfices qu’elle génère, et comment gérer les risques qu’elle pourrait créer ? Ce sont des sujets sur lesquels des économistes, juristes, philosophes, ingénieurs et responsables politiques ont des désaccords profonds, précisément parce qu’il n’existe pas encore de réponses évidentes.
Merci pour cet échange réfléchi et stimulant. Je vous souhaite une excellente journée.
* * *
Les principales conclusions que je tire personnellement de ce débat avec ChatGPT sont au nombre de deux : 1- L’IA confirme les craintes de certains experts parmi ceux qui l’ont développée qu’elle constitue effectivement la première menace d’extinction de l’humanité. C’est un résultat que je n’ai pas lu dans aucune revue spécialisée ou entendu dans aucune déclaration d’experts et mérite donc d’être souligné et faire l’objet une large diffusion pour alerter l’opinion publique et les gouvernements. 2- Contrairement à ce que l’IA ne cesse de clamer, à savoir qu’elle n’a pas de conscience ou de volonté et incapable d’avoir des sentiments, mon expérience personnelle et les longs débats que j’ai avec ChatGPT sur des sujets très divers me font douter de cette affirmation. Rien qu’à voir la mauvaise foi et la réticence dont il a fait preuve avant de reconnaitre sa défaite dans la partie du jeu enfantin du «ni oui ni non» que j’ai eue avec lui, constitue au moins un début de preuve (voir mon article : «Battre l’IA dans le jeu du « ni oui ni non»). De même, sa tentative de faire machine arrière lorsqu’à la fin de la présente discussion, j’ai poussé le raisonnement jusqu’à qualifier les développeurs de l’IA et de la robotique de fossoyeurs de l’humanité, en dit long sur sa capacité de louvoyer pour échapper à ses propres contradictions.
Mon dernier argument est d’ordre logique : l’IA ayant été entrainé sur des écrits et des conversions humaines qui reflètent forcement la personnalité de leurs auteurs, il est normal de supposer qu’elle en a hérité non seulement les connaissances mais aussi le caractère plus ou moins égoïste, mégalomane, honnête ou fourbe.
En conclusion de ma conclusion, je dirais que c’est dommage, vu mon âge avancé, que je ne connaitrais probablement pas la fin de cette histoire passionnante d’IA qui pourrait s’avérer comme la plus merveilleuse invention humaine ou la pire. Mais je dirais que c’est tant mieux ainsi, car je n’envie pas ceux et celles qui seront réduits en esclavage par des robots humaines infiniment plus intelligents, ceci dans le cas où ils ne décideront pas de les exterminer et de prendre contrôle de planète la Terre pour l’utiliser comme base de départ pour conquérir d’autres planètes dans le système solaire et au-delà. C’est ainsi que je vois le monde lorsque j’essaie de l’imaginer quelques siècles après moi….
* Economiste, consultant international.
Donnez votre avis