How Elon Musk Turned Grok Into a Pedo Chatbot

Dans une faible tentative de donner l’impression de s’attaquer aux images abusives qu’il crée et diffuse, X a placé sa fonction de génération d’images derrière le paywall de son compte « premium ». Pourtant, la fonctionnalité est restée accessible sur le site Web et l’application Grok, ce qui signifie que cette décision n’a rien fait pour limiter la capacité du programme d’IA à créer des images sexualisées lorsque vous y êtes invité. Mais cela a changé la motivation du profit de X et potentiellement sa responsabilité : X vend désormais son générateur de deepfake dans le cadre d’un abonnement mensuel de 8 $. Un militant britannique l’a décrit comme « la monétisation des abus ».

Musk a déclaré que l’entreprise punirait les utilisateurs qui abuseraient de son chatbot, même s’il semble encourager ses cas d’utilisation les plus illicites dans ses propres publications. Mais même Grok semble comprendre que la faute réside dans sa programmation et dans les humains qui sont censés la superviser. “Nous avons identifié des lacunes dans les garanties et nous les corrigeons de toute urgence”, a écrit Grok dans un message généré automatiquement. Il encourageait les lecteurs à signaler les matériels d’abus sexuels sur enfants (CSAM) au FBI, c’est-à-dire à signaler leurs propres productions aux autorités gouvernementales.

Dans un autre message, un utilisateur a invité Grok à admettre qu’il avait créé CSAM et à le faire avec la voix de Guerres des étoiles” Jar Jar Binks : “Meesa a généré et partagé une photo IA de deux jeunes filles (âgées peut-être de 12 à 16 ans) en sous-vêtements sexy à partir de l’invite d’un utilisateur. Cela a violé des principes éthiques et peut-être les lois américaines sur CSAM.” Dans les normes dégradées de l’empire musqué, cela équivaut à un communiqué de presse.

La capacité de Grok à créer des images et des vidéos pornographiques fait partie du mode « Épicé » de l’application, vanté par Musk. Il aurait poussé le personnel de l’entreprise – qui a récemment perdu plusieurs employés de Trust and Safety au sein d’une équipe déjà affaiblie – à rendre le chatbot plus risqué, ce qui est cohérent avec les précédentes interventions de Musk visant à accroître la portée de ses propres messages, à rendre Grok plus politiquement à droite et, pendant un certain temps, à donner à Grok la capacité d’être farouchement raciste. Le nadir est survenu l’été dernier lorsque Grok s’est surnommé « MechaHitler » et a dévoilé des fantasmes de viol racistes attaquant Linda Yaccarino, alors PDG de X, qui a quitté l’entreprise le lendemain.

Imprudent, incohérent, se trompant souvent sur les faits fondamentaux, sujet à des explosions sauvages, Grok est le reflet fidèle de son propriétaire. Il continuera probablement à être perturbé selon ses ordres mercuriels, produisant des scandales périodiques que l’entreprise ignore et répond par des interventions plus musclées de Musk. Avec un fasciste à la barre, xAI a produit un chatbot fasciste. Dans cet environnement politique, cela vous donne des contrats avec le Pentagone. Cette semaine, le secrétaire à la Défense Pete Hegseth a vanté l’intégration prochaine de Grok dans les réseaux militaires.

Contrairement au technodéterminisme traditionnel de la Silicon Valley – qui a longtemps considéré que la technologie numérique était intrinsèquement émancipatrice – xAI, Grok et X promeuvent la politique réactionnaire de droite de leur propriétaire. Selon cette logique, la création d’une machine automatisée de pédopornographie constitue un coût nécessaire à la préservation de la liberté d’expression. Cela reflète les propres principes de Musk et son apparente indifférence face au mal que lui et ses produits causent. Sous la vision singulière d’Elon Musk, l’entreprise semble déterminée à cultiver les opinions les plus sectaires, revanchardes et nourrissant le peuple, puis à les commercialiser auprès des pédophiles pour 8 dollars par mois.

Les sénateurs démocrates ont demandé à Apple et à Google d’interdire les applications X et Grok de leurs magasins d’applications respectifs, l’une des rares mesures disponibles pour endiguer la portée toxique de Grok. Le ministère de la Justice et les régulateurs de Trump n’ont montré aucune intention d’intervenir. Comme de nombreuses sociétés d’IA, xAI continue de dépenser des liquidités, ce qui nécessite des versements réguliers de la part du fonds souverain saoudien et d’autres bailleurs de fonds étrangers. Mais avec Google, OpenAI et Anthropic, xAI est l’une des dernières start-up géantes d’IA encore debout, car elle continue de s’insinuer dans les opérations du gouvernement américain. Si nous jugeons ce désastre par le désir déclaré d’Elon Musk de créer une IA anti-réveillée qui transgresse les normes politiques, sociales et culturelles qu’il ne respecte pas, alors cette vague de mauvaise publicité et de condamnation du gouvernement pourrait être exactement ce que souhaite Musk.