Four ways AI is being used to strengthen democracies worldwide | Nathan E Sanders and Bruce Schneier

DLa démocratie entre en collision avec les technologies de l’intelligence artificielle. À en juger par la réaction du public lors du récent Forum mondial de la démocratie à Strasbourg, on s’attend généralement à ce que la démocratie s’en ressente. Nous avons un autre récit. Certes, l’IA comporte des risques pour la démocratie, mais elle présente également des opportunités.

Nous venons de publier le livre Rewiring Democracy: How AI will Transform Politics, Government, and Citizenship.. Dans ce document, nous voyons lucidement comment l’IA mine la confiance dans notre écosystème d’information, comment l’utilisation d’une IA biaisée peut nuire aux constituants des démocraties et comment les élus aux tendances autoritaires peuvent l’utiliser pour consolider le pouvoir. Mais nous donnons également des exemples positifs de la manière dont l’IA transforme pour le mieux la gouvernance démocratique et la politique.

Voici quatre histoires de ce type qui se déroulent actuellement dans le monde, montrant comment l’IA est utilisée par certains pour rendre la démocratie meilleure, plus forte et plus réactive aux citoyens.

Japon

L’année dernière, Takahiro Anno, alors ingénieur de 33 ans, était un candidat marginal au poste de gouverneur de Tokyo. Candidat indépendant, il a fini cinquième sur un peloton de 56 candidats, en grande partie grâce à l’utilisation sans précédent d’un avatar IA autorisé. Cet avatar a répondu à 8 600 questions des électeurs lors d’une diffusion en direct continue sur YouTube pendant 17 jours et a attiré l’attention des innovateurs de campagne du monde entier.

Il y a deux mois, Anno-san a été élue à la chambre législative haute du Japon, tirant à nouveau parti du pouvoir de l’IA pour impliquer les électeurs, cette fois en répondant à plus de 20 000 questions. Son nouveau parti, Team Mirai, est également un atelier de technologie civique basé sur l’IA, produisant des logiciels visant à rendre la gouvernance meilleure et plus participative. Le parti exploite sa part du financement public japonais destiné aux partis politiques pour créer l’application Mirai Assembly, permettant aux électeurs d’exprimer leurs opinions et de poser des questions sur les projets de loi de la législature, et d’organiser ces expressions à l’aide de l’IA. Le parti promet que ses membres orienteront leurs questions lors des audiences des commissions en fonction des commentaires du public.

Brésil

Le Brésil est notoirement procédurier, avec encore plus d’avocats par habitant que les États-Unis. Les tribunaux sont chroniquement submergés de dossiers et l’arriéré qui en résulte coûte des milliards au gouvernement à traiter. Selon les estimations, le gouvernement fédéral brésilien dépense chaque année environ 1,6 % de son PIB pour faire fonctionner les tribunaux et entre 2,5 et 3 % supplémentaires du PIB pour effectuer des paiements ordonnés par les tribunaux dans le cadre de procès que le gouvernement a perdus.

Depuis au moins 2019, le gouvernement brésilien a adopté de manière agressive l’IA pour automatiser les procédures dans l’ensemble de son système judiciaire. L’IA ne prend pas de décisions judiciaires, mais aide à répartir la charge de travail, à effectuer des recherches juridiques, à transcrire les audiences, à identifier les documents en double, à préparer les ordonnances initiales pour signature et à regrouper les affaires similaires pour un examen conjoint : tout cela pour rendre le système judiciaire plus efficace. Et les résultats sont significatifs ; L’arriéré de la Cour suprême fédérale du Brésil, par exemple, est tombé en 2025 à son plus bas niveau en 33 ans.

S’il semble clair que les tribunaux réalisent des gains d’efficacité en tirant parti de l’IA, il y a un post-scriptum au projet de mise en œuvre de l’IA des tribunaux au cours des cinq dernières années : les plaideurs utilisent également ces outils. Les avocats utilisent l’IA pour déposer des plaintes devant les tribunaux brésiliens à un rythme sans précédent, le volume des nouvelles affaires ayant augmenté de près de 40 % au cours des cinq dernières années.

Ce n’est pas forcément une mauvaise chose pour les plaideurs brésiliens de reprendre le dessus dans cette course aux armements. Certains ont fait valoir que les litiges, en particulier contre le gouvernement, constituent une forme vitale de participation civique, essentielle à la fonction d’autonomie gouvernementale de la démocratie. Les systèmes judiciaires des autres démocraties devraient étudier et tirer les leçons de l’expérience du Brésil et chercher à utiliser la technologie pour maximiser la bande passante et la liquidité des tribunaux pour traiter les litiges.

Allemagne

Passons maintenant à l’Europe et aux innovations en matière d’information des électeurs. Depuis 2002, l’Agence fédérale allemande pour l’éducation civique gère un guide de vote non partisan appelé Wahl-o-Mat. Les responsables convoquent une équipe éditoriale de 24 jeunes électeurs (de moins de 26 ans et sélectionnés pour leur diversité) avec des experts des sciences et de l’éducation pour élaborer une liste de 80 questions. Les questions sont posées à tous les partis politiques allemands enregistrés. Les réponses sont réduites à 38 sujets clés, puis publiées en ligne sous la forme d’un quiz que les électeurs peuvent utiliser pour identifier le parti auquel ils s’identifient le plus.

Au cours des deux dernières années, des groupes extérieurs ont innové en proposant des alternatives au guide officiel Wahl-o-Mat qui exploitent l’IA. Wahlweise, un produit de la société allemande d’IA AIUI, est d’abord arrivé. Deuxièmement, les étudiants de l’Université technique de Munich ont déployé un système d’IA interactif appelé Wahl.chat. Cet outil a été utilisé par plus de 150 000 personnes au cours des quatre premiers mois. Dans les deux cas, au lieu d’avoir à lire des pages Web statiques sur les positions des différents partis politiques, les citoyens peuvent engager une conversation interactive avec un système d’IA pour obtenir plus facilement les mêmes informations contextualisées en fonction de leurs intérêts et questions individuels.

Cependant, des chercheurs allemands étudiant la fiabilité de ces outils d’IA avant les élections fédérales allemandes de 2025 ont soulevé de vives inquiétudes concernant les biais et les « hallucinations » – les outils d’IA constituant de fausses informations. Reconnaissant le potentiel de la technologie pour accroître l’information des électeurs et la transparence des partis, les chercheurs ont recommandé d’adopter des évaluations scientifiques comparables à celles utilisées dans l’outil officiel de l’Agence pour l’éducation civique pour améliorer et institutionnaliser la technologie.

États-Unis

Enfin, les États-Unis – en particulier la Californie, où se trouve CalMatters, une organisation de presse non partisane et à but non lucratif. Depuis 2023, son projet Digital Democracy recueille toutes les déclarations publiques des élus californiens – chaque discours, commentaire fait en commission et publication sur les réseaux sociaux, ainsi que leurs dossiers de vote, législation et contributions à la campagne – et rend toutes ces informations disponibles sur une plateforme en ligne gratuite.

CalMatters a lancé cette année une nouvelle fonctionnalité qui va encore plus loin dans ce type de fonction de surveillance civique. Sa fonctionnalité AI Tip Sheets utilise l’IA pour parcourir toutes ces données, à la recherche d’anomalies, telles qu’un changement de position électorale lié à une contribution importante à la campagne. Ces anomalies apparaissent sur une page Web à laquelle les journalistes peuvent accéder pour leur donner des idées d’articles et une source de données et d’analyses pour alimenter d’autres reportages.

L’IA ne remplace pas les journalistes humains ; il s’agit d’une organisation de surveillance civique qui utilise la technologie pour fournir aux journalistes humains des informations fondées sur des preuves. Et ce n’est pas une coïncidence si cette innovation est née d’un nouveau type d’institution médiatique : une agence de presse à but non lucratif. Alors que la fonction de surveillance du quatrième pouvoir continue d’être dégradée par le déclin des modèles économiques des journaux, ce type de soutien technologique est une contribution précieuse pour aider un nombre réduit de journalistes humains à conserver une partie de la marge d’action et de l’impact pour lesquels notre démocratie compte sur eux.

TCe ne sont là que quatre des nombreuses histoires venant du monde entier où l’IA contribue à renforcer la démocratie. Le point commun est que la technologie distribue plutôt que concentre le pouvoir. Dans les quatre cas, il est utilisé pour aider les gens à accomplir leurs tâches démocratiques – la politique au Japon, les litiges au Brésil, le vote en Allemagne et le journalisme de surveillance en Californie – plutôt que de les remplacer.

Dans aucun de ces cas, l’IA ne fait quelque chose que les humains ne peuvent pas faire de manière parfaitement compétente. Mais dans tous ces cas, nous n’avons pas suffisamment d’humains disponibles pour effectuer le travail par eux-mêmes. Une IA suffisamment fiable peut combler les lacunes : amplifier le pouvoir des fonctionnaires et des citoyens, améliorer l’efficacité et faciliter l’engagement entre le gouvernement et le public.

L’un des obstacles à la réalisation plus large de cette vision est le marché de l’IA lui-même. Les technologies de base sont en grande partie créées et commercialisées par des géants américains de la technologie. Nous ne connaissons pas les détails de leur développement : sur quel matériel ils ont été formés, quelles barrières de sécurité sont conçues pour façonner leur comportement, quels préjugés et quelles valeurs sont encodés dans leurs systèmes. Et, pire encore, nous n’avons pas notre mot à dire sur les choix associés à ces détails ou sur la manière dont ils devraient évoluer au fil du temps. Dans de nombreux cas, l’utilisation de ces systèmes d’IA propriétaires et à but lucratif dans des contextes démocratiques constitue un risque inacceptable.

Pour résoudre ce problème, nous préconisons depuis longtemps le développement d’une « IA publique » : des modèles et des systèmes d’IA développés sous contrôle démocratique et déployés dans l’intérêt public, et non vendus par les entreprises au profit de leurs actionnaires. Ce mouvement prend de l’ampleur dans le monde entier.

La Suisse a récemment publié le modèle d’IA publique le plus puissant et le plus pleinement réalisé au monde. Il s’appelle Apertus et a été développé conjointement par le gouvernement suisse et l’université ETH Zurich. Le gouvernement l’a rendu entièrement open source – données ouvertes, code ouvert, pondérations ouvertes – et son utilisation est gratuite pour tous. Aucune œuvre protégée par le droit d’auteur acquise illégalement n’a été utilisée dans sa formation. Il n’exploite pas les travailleurs mal payés des pays du Sud. Ses performances sont comparables à celles des géants des grandes entreprises il y a un an, ce qui est plus que suffisant pour de nombreuses applications. Et cela démontre qu’il n’est pas nécessaire de dépenser des milliards de dollars pour créer ces modèles. Apertus fait un grand pas en avant pour concrétiser sa vision d’une alternative à l’IA d’entreprise contrôlée par les grandes technologies.

La technologie de l’IA n’est pas sans coûts ni sans risques, et nous ne sommes pas là pour les minimiser. Mais cette technologie présente également des avantages considérables.

L’IA améliore intrinsèquement le pouvoir et peut amplifier ce que les humains derrière elle veulent faire. Cela peut renforcer l’autoritarisme aussi facilement que la démocratie. C’est à nous d’orienter la technologie dans cette meilleure direction. Si davantage d’observateurs citoyens et d’avocats plaidants utilisent l’IA pour amplifier leur pouvoir de surveillance du gouvernement et le tenir responsable, si davantage de partis politiques et d’administrateurs électoraux l’utilisent pour dialoguer de manière significative avec et informer les électeurs et si davantage de gouvernements proposent des alternatives démocratiques aux offres d’IA des grandes technologies, la société s’en portera mieux.

Qu’est-ce qui me donne de l’espoir maintenant

Nathan : Je suis ravi de voir des exemples de personnes prenant la technologie en main pour se battre pour ce en quoi ils croient. En plus de ce qui précède, nous voyons des militants politiques américains utiliser l’IA pour rendre le porte-à-porte plus efficace, des technologues civiques brésiliens utiliser des données pour générer une surveillance du gouvernement local, et d’innombrables autres exemples dans le monde.

Bruce : Il existe une réelle chance que la technologie de l’IA distribue le pouvoir. À l’heure actuelle, il s’agit d’une concentration du pouvoir, car le coût de construction de ces modèles pionniers est énorme. Mais ce coût diminue considérablement et le besoin de modèles plus petits et plus agiles augmente. L’une des choses les plus importantes que nous puissions faire est de briser les monopoles technologiques, et un écosystème d’IA plus distribué pourrait bien y contribuer.

• Nathan E Sanders est un data scientist affilié au Berkman Klein Center de l’Université Harvard et co-auteur, avec Bruce Schneier, du livre Rewiring Democracy: How AI Will Transform Our Politics, Government, and Citizenship. Bruce Schneier est un technologue en sécurité qui enseigne à la Harvard Kennedy School de l’Université Harvard.