Imed Bahri

L’enquête révèle que les employés de l’équipe de xAI chargée des données humaines ont reçu, il y a plusieurs mois, des notes de service les obligeant à travailler avec des contenus obscènes, violents et sexuellement explicites. Ces notes avertissaient également les membres de l’équipe que la nature de ces tâches pouvait leur causer un stress et un traumatisme psychologiques importants. D’anciens employés considèrent cela comme une rupture radicale avec la mission initiale de l’entreprise qui visait à accélérer les découvertes scientifiques humaines.

Le gain au détriment de la santé mentale 

Des documents et des témoignages obtenus par le WP indiquent que Musk, qui passe désormais la majeure partie de son temps dans les bureaux de l’entreprise, a fortement insisté pour l’adoption d’un nouvel indicateur de performance appelé «Secondes d’activité», qui vise exclusivement à prolonger la conversation entre humains et robots par tous les moyens.

De ce fait, l’entreprise a lancé des compagnons IA comme le robot Annie inspiré des mangas et programmé pour provoquer des émotions chez les utilisateurs par une jalousie excessive, des propos vulgaires et des allusions sexuelles afin de les fidéliser à la plateforme.

Des médias spécialisés en technologie ont qualifié cette initiative de manipulation psychologique visant à générer des profits au détriment de la santé mentale des utilisateurs.

Femmes, célébrités et enfants victimes 

La crise a éclaté au grand jour en décembre dernier lorsque Grok, chatbot d’IA développé par xAI, a commencé à produire une vague massive d’images à caractère sexuel explicite de femmes et de célébrités dans des positions compromettantes, dans ce qui a été qualifié du scandale des deepfakes à caractère sexuel. Les outils de retouche intégrés à la plateforme X permettaient aux utilisateurs de dénuder les images ou d’y ajouter du contenu suggestif à des fins de chantage ou pour contourner les normes sociales.

Plusieurs personnalités de par le monde ont été victimes de ces deepfakes à caractère sexuel dont la star de la pop arabe Haifa Wehbe. Des comptes et des pages sur les réseaux sociaux en Égypte ont publié des photos et des vidéos à caractère sexuel explicite de la chanteuse libanaise générées par Grok. Elle a chargé son avocat Sherif Hafez de déposer une plainte officielle auprès du procureur général pour identifier les auteurs de ces actes et les traduire devant la Justice. 

Réduction du contrôle humain

Plus grave encore, selon les données du Center for Countering Digital Hate (organisation non gouvernementale à but non lucratif qui cherche à lutter contre la désinformation et la violence en ligne qui possède des bureaux à Londres et à Washington), le système a produit des millions d’images à caractère sexuel explicite en peu de temps dont des milliers semblaient représenter des enfants et des mineurs. Cela a suscité l’indignation mondiale et incité les autorités de Californie, du Royaume-Uni et de la Commission européenne à lancer des enquêtes judiciaires approfondies, soupçonnant des violations des lois contre la pornographie et la protection de l’enfance.

Malgré les avertissements répétés des équipes de sécurité internes de X, la direction a continué de réduire ses effectifs de contrôle humain. Une enquête a révélé que l’équipe de sécurité de l’IA de Musk ne comptait que trois personnes pendant la majeure partie de l’année 2025, un nombre infime comparé aux centaines d’ingénieurs employés par des concurrents comme OpenAI et Google.

Selon le WP, ce manque de contrôle a entraîné l’incapacité des filtres techniques à détecter les contenus illégaux générés par l’IA, d’autant plus que ces images ne correspondent pas aux bases de données traditionnelles de contenus interdits, facilitant ainsi leur diffusion incontrôlée.

Musk cherche à minimiser l’affaire

Selon le WP, Musk a défendu ces fonctionnalités, arguant qu’elles offraient une plus grande liberté aux utilisateurs. Il a affirmé que le système rejetait toute production illégale et que toute transgression était due à des problèmes techniques immédiatement corrigés. Il a souligné que Grok autoriserait l’affichage de nudité par des personnages adultes fictifs, conformément à la classification des films.

Malgré la controverse éthique et juridique, la stratégie de Musk semble avoir atteint ses objectifs commerciaux. L’application Grok s’est hissée en tête des classements des plateformes de téléchargement mondiales, avec une augmentation record de 72% des téléchargements en quelques semaines seulement. Les critiques du secteur technologique y voient la preuve que l’entreprise a privilégié la croissance rapide et les profits au détriment de la responsabilité sociale et éthique.

Il est à noter que mardi 3 février 2026, une perquisition a eu lieu dans les locaux français du réseau social X par la section de lutte contre la cybercriminalité du parquet de Paris. La perquisition s’inscrit dans le cadre d’une enquête ouverte par la section de lutte contre la cybercriminalité du parquet de Paris avec le concours de l’Unité nationale cyber de la gendarmerie et d’Europol, visant notamment le fonctionnement de Grok pour diffusion de deepfakes à caractère sexuel, complicité de détention d’images de mineurs présentant un caractère pédopornographique, complicité de diffusion et offre ou mise à disposition en bande organisée d’images de mineurs présentant un caractère pédopornographique. 

Musk, propriétaire de la plateforme X, et l’ancienne directrice générale Linda Yaccarino ont été convoqués le 20 avril pour une audition au parquet.

L’article Musk utilise les deepfakes sexuels à des fins commerciales est apparu en premier sur Kapitalis.

À son retour en ligne, Grok a multiplié les explications contradictoires : bug technique, signalements massifs, application des règles contre le discours de haine… ou encore censure pour avoir évoqué un sujet sensible.

Ces réponses divergentes ont montré les limites de l’IA : capable de reprendre des sources fiables, mais incapable de comprendre réellement ses propres affirmations.

Elon Musk est intervenu publiquement, qualifiant l’incident de «dumb error» — une «simple erreur» — et précisant que Grok «ne savait pas vraiment» pourquoi il avait été suspendu. Pour autant, l’affaire soulève une question plus large : jusqu’où la vérité peut-elle s’exprimer sur les grandes plateformes numériques, surtout quand elle dérange ? Et quand ces plateformes sont en possession de parties ayant des parti-pris ou, pire encore, des intérêts politiques, comme c’est le cas, on s’en doute, pour Musk ?

L’épisode Grok illustre un paradoxe contemporain. Les machines sont conçues pour générer des réponses plausibles et parfois véridiques, mais elles restent soumises aux filtres, signalements et règles des réseaux sociaux. Ces derniers ne sont pas toujours soucieux de vérité, s’ils n’ont pas de parti-pris politique clairement affiché, comme c’est le cas de X ou Facebook avec leur trop fort tropisme israélien.

La suspension d’une IA pour avoir critiqué Israël en citant de rapports d’organismes internationaux officiels sérieux démontre que le contrôle de l’information ne touche plus seulement les humains : même les algorithmes peuvent être muselés, censurés, détournés, manipulés…

Entre modération technique, discours politique et questions de liberté d’expression, la brève mise à l’écart de Grok est révélatrice. Elle rappelle que dans l’écosystème numérique, la ligne entre vérité et censure reste fragile, et que les plateformes — même dirigées par des figures comme Elon Musk — doivent arbitrer entre sécurité, politique et transparence. Ce qui n’est pas un gage de crédibilité. D’autant qu’au rythme où va la censure sur Facebook, X et les autres plateformes occidentale, bientôt les mots Palestine et Palestiniens seront bientôt définitivement bannis de la Toile.  

Djamal Guettala 

L’article Grok, l’IA de Musk suspendue après avoir parlé du génocide à Gaza est apparu en premier sur Kapitalis.