Inside the secret meeting that led to the AI political resistance

Début janvier, un groupe d’environ 90 leaders politiques, communautaires et d’opinion se sont réunis dans un Marriott de la Nouvelle-Orléans pour une conférence secrète sur l’intelligence artificielle – si secrète, en fait, que personne ne savait qui d’autre avait été invité jusqu’à ce qu’ils entrent dans la salle. Des dirigeants religieux et des universitaires conservateurs étaient assis à côté de représentants syndicaux. Les hommes de pouvoir progressistes qui avaient recruté Bernie Sanders pour se présenter à la présidence se sont soudainement retrouvés à respirer le même air que les têtes parlantes de MAGA. Et l’IA pensait que les dirigeants qui les avaient invités à la Nouvelle-Orléans espéraient qu’aucun d’entre eux ne s’entre-tuerait.

Mercredi, le Future of Life Institute, l’une des voix les plus influentes dans le monde de la sécurité de l’IA, a publié les résultats de cette réunion : la Déclaration pro-humaine sur l’IA, un document concis contenant cinq lignes directrices sur la manière dont le développement de l’IA doit être centré d’abord sur l’humanité, en mettant l’accent sur la nécessité d’éviter la concentration du pouvoir entre les mains des puissants ; préserver le bien-être des enfants, des familles et des communautés ; et préserver le libre arbitre et la liberté humaine. Il compte le plus large éventail de signataires que j’ai personnellement jamais vu sur un seul document politique.

De puissantes organisations civiques bien en dehors du monde de la technologie ont signé la Déclaration : des syndicats majeurs comme l’AFL-CIO, l’American Federation of Teachers et la Screen Writers Guild ; des organisations religieuses comme l’Association du Forum interconfessionnel du G20 et le Congrès des dirigeants chrétiens ; les Progressive Democrats of America, le groupe qui a sélectionné Bernie Sanders pour se présenter comme démocrate en 2016 ; des groupes de réflexion comme l’Institut conservateur d’études familiales et des groupes de défense comme Parents RISE !.

Le nombre de signataires individuels est encore plus large: le candidat démocrate à la présidentielle Ralph Nader, la présidente de l’AFT Randi Weingarten, la présidente de la Signal Foundation Meredith Whittaker, Les Blaze Glenn Beck, Salle de guerre Steve Bannon, Sir Richard Branson, fondateur du groupe Virgin, Susan Rice, ancienne conseillère à la sécurité nationale, membres de la SAG-AFTRA, dirigeants de grandes organisations évangéliques. D’autres devraient s’inscrire dans les prochains jours.

La réunion s’est déroulée selon les règles de Chatham House et la liste des participants reste privée. Mais les participants qui ont accepté de parler Le bord à propos de l’expérience, ils ont déclaré qu’ils avaient été invités par Max Tegmark, co-fondateur de FLI et professeur du MIT qui avait été nommé sur la liste TIME 100 AI. “Nous avons passé beaucoup de temps à lui parler au cours des derniers mois”, a déclaré Weingarten, un puissant défenseur du syndicat des enseignants. Le bord lors d’un entretien téléphonique. Même si elle n’a pas pu se rendre à la Nouvelle-Orléans, elle a participé à la rédaction du document et elle a trouvé des similitudes remarquables entre la vision du monde du FLI et les « garde-fous de bon sens » de l’AFT pour l’utilisation de l’IA dans les écoles. “Cela fait un bon moment que nous suivons des voies parallèles sans le savoir.”

Joe Allen, cofondateur de Humans First et ancien correspondant de l’émission de Bannon Salle de guerredit Le bord que Tegmark l’avait également invité à la Nouvelle-Orléans, ainsi qu’à une précédente réunion de validation de principe à Manhattan. Même si le large éventail de participants était choquant et que les tensions politiques n’avaient pas complètement disparu, Allen a été surpris par la rapidité avec laquelle ils se sont tous mis d’accord sur des sujets similaires : les armes mortelles autonomes ne devraient pas être uniquement alimentées par l’IA. Les entreprises d’IA ne devraient pas exploiter l’attachement émotionnel des enfants à des fins lucratives. AI ne devrait pas bénéficier de la personnalité juridique. (La position la moins populaire de la Déclaration a quand même été approuvée par 94 % des participants.)

“J’y pense, si l’on sait qu’il y a du poison dans l’approvisionnement en eau, ou que des drogues inondent les écoles – quoi que ce soit de ce genre, en général – la plupart des gens seront contre et ce n’est pas partisan”, a-t-il déclaré. L’IA était légèrement plus délicate dans la mesure où l’opinion générale des gens sur des modèles d’IA spécifiques était divisée selon les lignes de parti – Grok était l’IA « basée » et Anthropic était l’IA « éveillée » – mais pour Allen, la distinction n’avait aucun sens. « Par exemple, que signifient « basé » et « réveillé » à ce stade ?

Il y a près de dix ans, FLI avait exposé un ensemble de principes plus optimistes pour la recherche sur l’IA – 23 principes, pour être exact, rédigés lors de la conférence Asilomar 2017 pour une IA bénéfique, qui a attiré plus de 100 sommités technologiques de l’époque. Les signataires et les partisans des principes d’Asilomar sur l’IA comprenaient des leaders de l’IA comme Sam Altman, Elon Musk et Demis Hannabis ; des sommités comme Stephen Hawking et Ray Kurzweil, et des représentants de grandes entreprises comme Google, Intel et Apple.

Mais cette fois, personne du secteur n’a été invité, sans parler des personnes du niveau d’Altman et de Musk. “C’était en fait un choix de conception très délibéré”, a déclaré Emilia Javorsky, directrice du programme Futures chez FLI. Le bord. Chaque fois qu’elle assistait à des conférences et à des événements sur l’impact de l’IA sur la société, elle remarquait que les intérêts des entreprises finiraient par devenir la perspective dominante dans la salle, « simplement en raison de leur taille, de leur poids et de leurs capacités de financement ». Au lieu de cela, les invités étaient issus d’organisations de la société civile, qui connaissaient toutes des perturbations massives dues à l’intelligence artificielle, et qui en avaient toutes assez que les Big Tech ignorent leurs inquiétudes.

Anthony Aguirre, un autre co-fondateur de FLI et éminent professeur de cosmologie à l’UC Santa Cruz, a souligné que cette déclaration n’était pas une tentative de refaire les principes d’Asilomar, mais une sombre reconnaissance d’une sombre nouvelle réalité – une réalité dans laquelle leurs anciens collègues étaient désormais à la tête de grandes entreprises, essayant d’atteindre l’intelligence artificielle générale avant leurs rivaux et de satisfaire les actionnaires avant de s’attaquer à la sécurité. Le pouvoir de diriger le développement de l’IA était de plus en plus concentré entre les mains de quelques-uns, et la déréglementation agressive de l’administration Trump leur a donné davantage de pouvoir. “Au-delà de la masse globale de l’humanité, il y avait une entité qui aurait pu exercer un contrôle significatif sur ce qu’elle pouvait faire, et c’était le gouvernement américain”, a-t-il déclaré. Le bord. “Maintenant qu’il les soutient et veut les maintenir sans retenue, la seule chose qui constitue une réelle menace, ce sont les autres entreprises.”

En l’absence des Big Tech et du contrôle du public, a déclaré Javorsky, il y avait quelque chose d’unique dans la rapidité avec laquelle ce groupe s’est uni autour des mêmes problèmes et est parvenu aux mêmes conclusions. Au cours des jours suivants, Javorsky n’a cessé d’entendre le même refrain : “‘Nous n’aurons pas le luxe de débattre de toutes ces autres questions si nous ne réussissons pas à faire les choses correctement. Alors, faisons les choses correctement.'”

Selon Weingarten, la Déclaration sert d’énoncé de mission à ce qu’elle appelle une « coalition exigeante clé » – une alliance stratégique d’opposants politiques – et de moyen de maintenir la coordination de tous leurs efforts contre un gouvernement qui place l’entreprise au-dessus de la société. « Ce qui est vraiment important, c’est qu’il y a d’autres personnes qui ont dit : essayons de créer une plus grande coalition pour dire que nous avons besoin que l’humanité soit au centre de l’IA,” Elle a noté. À elle seule, l’AFT aurait peut-être pu faire avancer la question de la sécurité des enfants, mais elle ne pouvait exercer qu’une pression limitée sur les législateurs. Mais s’ils s’associaient à plusieurs autres syndicats, plus les organisations religieuses, plus des alliés de l’autre côté de l’allée ? Maintenant ces législateurs seraient nerveux. “Si le gouvernement ne le fait pas, alors le peuple doit le forcer à le faire. Et il faut commencer par une déclaration de principes.”

“S’il y a une déclaration que je voudrais faire à propos de tout cela, et c’est ce que j’ai dit au groupe lorsque j’ai retenu leur attention, c’est que personne ne va organiser un mouvement pro-humain. La seule chose que vous pouvez faire est de l’inspirer”, a déclaré Allen. “Je pense que des déclarations comme celle-ci devraient inspirer un mouvement pro-humain. Comme un document fondamental qui donne le ton… Il n’y a pas d’ingénierie sociale, ni d’argent, ni de médias, ou quoi que ce soit, qui puisse vraiment y parvenir.”

Cependant, ce à quoi cela ressemble exactement reste flou – ou du moins, difficile à traduire en élections. FLI mène une campagne publicitaire intitulée « Protégez ce qui est humain », mais en tant que 501(c)3, elle ne peut pas soutenir ou faire campagne en faveur de candidats ou d’initiatives électorales à mi-mandat. Ils ont cependant mené un sondage avec Tavern Research en février, testant la popularité des principes de la Déclaration auprès des électeurs. Même si les répondants étaient clairement divisés selon les lignes partisanes pour lesquelles ils ont voté et à quel parti ils appartenaient, ils ont massivement soutenu les déclarations contenues dans la Déclaration, et ce, avec une large marge. Les principes les moins performants – l’IA ne doit pas créer de monopoles ni concentrer le contrôle entre quelques mains – ont néanmoins recueilli 69 % de soutien des personnes interrogées. Le principe le plus performant – les humains doivent rester aux commandes de l’IA et l’empêcher de nuire aux enfants, aux familles et aux communautés – a obtenu un soutien de 80 %.

Pour Javorsky, les résultats du sondage ont validé les arguments de la conférence. “C’est une chose d’avoir tout un groupe d’acteurs de la société civile réunis dans une pièce et de penser que quelque chose est représentatif. Mais vous devez réellement les valider auprès de vraies personnes. Cela trouve réellement un écho en eux.”

Lorsque nous avons parlé jeudi, Anthropic, qui avait récemment évoqué la possibilité que son IA ait pris conscience, était au milieu d’un combat avec le Pentagone pour savoir si l’armée pouvait utiliser son IA pour des armes mortelles autonomes sans surveillance humaine. Vendredi soir, OpenAI a jeté Anthropic sous le bus pour décrocher son propre contrat avec le Pentagone. Quelques jours après la résolution de ce combat, les États-Unis ont utilisé des outils basés sur Anthropic pour assassiner l’ayatollah d’Iran, et plusieurs autres rapports faisant état de licenciements imminents dans le domaine de l’IA ont été publiés, et l’ampleur des demandes du Pentagone en matière de surveillance de masse est devenue plus évidente, a déclaré Alan Minsky, PDG des Démocrates progressistes d’Amérique et participant à la réunion. Le bord qu’il ne pouvait prévoir aucune opposition politique à la déclaration, ni de gauche ni de droite.

“Altman et Musk ont ​​certainement adopté une attitude désinvolte face à ce qui constitue de graves menaces pour les communautés : la détérioration psychologique d’une population qui vit de plus en plus en ligne, l’impact d’une mauvaise répartition économique continue des richesses et, bien sûr, le mépris de l’idée selon laquelle la protection de base doit passer avant les profits”, a-t-il déclaré. ” Le risque d’une menace existentielle pour l’humanité n’est plus quelque chose qu’ils ignorent. À mesure que le public se rend compte que telle est son attitude, qu’il méprise totalement le bien-être de l’individu moyen, nous pensons oui que le public sera de notre côté. “