What TikTok’s U.S. Spin-off Means for Its Algorithm and Content Moderation

Rachel Feltman : Pour Américain scientifiquec’est La science rapidement, Je m’appelle Rachel Feltman.

L’algorithme de TikTok, qui façonne ce que voient plus d’un milliard d’utilisateurs, a développé une réputation presque mystique pour déterminer ce que les gens veulent regarder. Ces pouvoirs ne sont pas réellement magiques, mais ils comptent. Un algorithme aussi largement utilisé que celui de TikTok peut avoir un impact énorme sur notre culture en déterminant quelles informations les gens reçoivent et comment.

Alors que TikTok se prépare à lancer une version américaine de l’application avec une propriété majoritairement américaine, de nombreuses questions se posent sur la façon dont la plate-forme – et son tout-puissant algorithme – pourrait changer. Les nouveaux investisseurs vont-ils redéfinir les types de contenu promus ou supprimés ?

Sur le soutien au journalisme scientifique

Si vous appréciez cet article, pensez à soutenir notre journalisme primé en abonnement. En achetant un abonnement, vous contribuez à assurer l’avenir d’histoires percutantes sur les découvertes et les idées qui façonnent notre monde d’aujourd’hui.

Kelley Cotter, professeur adjoint au Département d’informatique centrée sur l’humain et d’informatique sociale de la Pennsylvania State University, explique ici ce que nous savons de la vente très attendue de TikTok et ce que cela pourrait signifier pour l’avenir de la plateforme.

Merci beaucoup d’être venu discuter aujourd’hui.

Kelley Cotter : Bien sûr, je suis heureux d’être ici et merci de m’avoir invité.

Feltman : Alors, pourriez-vous commencer par nous parler un peu de votre parcours : vous savez, quel genre de recherche vous effectuez ?

Clavette : J’étudie donc toutes sortes de choses liées aux implications sociales et éthiques des technologies numériques, et je me concentre particulièrement, généralement, sur les algorithmes et l’IA – et peut-être plus spécifiquement sur les algorithmes des médias sociaux – et certains de mes principaux intérêts portent sur la manière dont les gens découvrent et donnent un sens à ces technologies, comment ils les imaginent et ce qu’ils pensent qu’elles pourraient rendre possible.

Et puis j’ai un livre actuellement sous contrat avec Oxford University Press sur la culture algorithmique critique, donc l’une des choses qui m’intéresse est de comprendre comment ce que nous savons sur les algorithmes peut nous aider à les gouverner de manière plus ascendante. Et aussi réfléchir à notre compréhension des plateformes et des pratiques que nous avons autour d’elles comme une sorte d’informations contextuelles dont nous disposons.

Feltman : Selon vous, qu’est-ce qui manque dans la compréhension de la plupart des gens des algorithmes qui alimentent les médias sociaux qu’ils utilisent ?

Clavette : Ainsi, lorsque j’ai commencé mes recherches il y a peut-être près de 10 ans, une grande partie de la population n’était même pas vraiment consciente de l’existence de ces processus pour trier et filtrer le contenu en ligne. Maintenant, je pense que cela a beaucoup changé, là où il y a… probablement la plupart des gens ont une certaine conscience de ces processus qui se produisent. Ils sont conscients que ce qu’ils voient dans leurs flux n’est pas tout ce qu’ils pourraient voir. Et je pense qu’ils ont aussi une compréhension de base de la façon dont cela fonctionne, donc ils savent que cela dépend de leur activité sur les sites : les choses avec lesquelles ils interagissent, les choses qu’ils regardent, les choses qu’ils partagent, les choses qu’ils commentent, tout ce genre de choses.

Je pense que tout niveau plus élevé que cela, peut-être une compréhension technique plus complexe, est plus hors de portée, mais la manière dont les gens sont conscients des impacts ou des conséquences des algorithmes est également limitée. Les gens sont donc souvent conscients des modalités de leur propre rencontre avec les algorithmes, car nous en apprenons beaucoup à leur sujet grâce à nos propres expériences. Mais il n’existe pas de compréhension globale de la manière dont les algorithmes pourraient remodeler différents processus sociétaux plus larges.

Feltman : Mm. Vous avez donc récemment écrit un article pour Conversation sur la vente TikTok et son lien avec le type d’algorithme TikTok tristement célèbre. Pour commencer, que savons-nous de la vente TikTok ? Que se passe-t-il là-bas ?

Clavette : Nous avons donc quelques les détails à ce stade, pas une image complète, mais nous avons quelques détails. Nous savons donc que l’accord va créer une nouvelle application réservée aux États-Unis, dérivée de l’application d’origine ; qu’elle sera détenue majoritairement par des sociétés américaines, environ 80 %, puis moins de 20 % par des investisseurs chinois, ByteDance, la société mère de TikTok.

Et le principal moteur de la création de cet accord était à l’origine lié aux inquiétudes concernant le fait que l’application soit sous contrôle chinois. Et l’un des points centraux était l’algorithme, car des inquiétudes existaient quant à la manière dont l’algorithme pourrait être manipulé pour façonner le contenu que les utilisateurs voient dans leurs flux d’une manière que les législateurs américains ont jugée préoccupante. L’algorithme serait alors concédé sous licence à cette nouvelle société américaine, qui le recyclerait et le reconstruirait pour l’application réservée aux États-Unis.

Feltman : Ouais, et pourquoi le sort de l’algorithme de TikTok occupe-t-il une si grande place dans cette conversation, vous savez, même maintenant qu’il ne serait pas entre les mains d’une puissance étrangère ?

Clavette : L’algorithme est au cœur de tout ce que fait TikTok. Ainsi, chaque plateforme de médias sociaux tourne vraiment autour des fonctions remplies par leurs algorithmes. Les algorithmes sont donc conçus pour adapter le contenu aux préférences des utilisateurs, ils sont donc conçus pour rendre les expériences des utilisateurs significatives et précieuses ; c’est en quelque sorte le but. Mais cela signifie également qu’ils jouent un rôle central dans le façonnement de la culture en rendant certains types de contenu visibles ou moins visibles.

Ainsi, ils trient et filtrent le contenu pour les gens, puis appliquent également certaines des directives communautaires établies par les sociétés de médias sociaux pour s’assurer que le contenu que les gens voient dans leurs flux n’est pas excessivement sanglant ou n’encourage pas la violence ou – historiquement, il y avait le souci de minimiser la désinformation. Il existe donc différentes manières d’optimiser les flux afin d’afficher le meilleur contenu et le meilleur contenu pour chaque utilisateur individuel.

Feltman : En tant que personne qui étudie les algorithmes des médias sociaux depuis près d’une décennie, qu’est-ce qui est unique dans celui qui alimente la page TikTok « Pour vous », à la fois, en fait, algorithmiquement et peut-être dans la manière dont les gens sentir que ça marche, si cela a du sens ?

Clavette : Oui, l’algorithme TikTok est perçu comme étant particulièrement efficace pour adapter le contenu aux utilisateurs. Il existe une conception populaire selon laquelle les gens connaissent mieux qu’ils ne se connaissent eux-mêmes. Et certaines de mes recherches avec des collègues ont porté sur ce genre de croyances et la manière dont elles convergent dans ce mélange vraiment curieux de croyances spirituelles et de théories du complot, où l’on a parfois la perception que ce que les gens voient dans leurs flux leur est en quelque sorte cosmiquement destiné ; cela leur est spécifiquement destiné. Il y a donc vraiment ceci : on a l’impression que l’algorithme est très puissant et qu’il remplit bien son objectif.

À certains égards, à bien des égards, l’algorithme n’est pas particulièrement différent des autres algorithmes de médias sociaux. C’est en quelque sorte conçu de la même manière, l’objectif étant de garder les utilisateurs sur le site et de les inciter à revenir. C’est en quelque sorte pour cela qu’il est optimisé. Et comme d’autres algorithmes de médias sociaux, il s’appuie également sur des signaux provenant du comportement des gens sur le site : encore une fois, les choses qu’ils aiment, les choses qu’ils commentent, les choses qu’ils partagent, ce genre de signaux d’intérêt.

Un Le journal Wall Street L’enquête a suggéré que la durée de visionnage sur TikTok est un signal d’intérêt particulièrement fort utilisé par l’algorithme pour classer le contenu. L’une des raisons pour lesquelles l’algorithme TikTok pourrait être potentiellement plus efficace pour personnaliser le contenu est la nature du format vidéo court, dans lequel il est plus facile de savoir ce qui intéresse les gens en fonction du temps qu’ils passent à regarder un élément de contenu donné plutôt que toute autre chose.

Il possède également d’autres fonctionnalités uniques qui favorisent davantage de connexions entre les créateurs et les utilisateurs. Nous obtenons donc, par exemple, la fonction Stitch, grâce à laquelle les gens répondront à différentes vidéos ; ils intégreront une vidéo d’un autre créateur et y répondront avec leur propre vidéo. Il y a des sons, où les gens peuvent utiliser des sons similaires pour créer des sortes de mèmes et différentes conversations ou promouvoir des idées similaires sur des choses. Il existe donc des moyens par lesquels les connexions entre utilisateurs sont facilitées par les fonctionnalités de la plate-forme, ce qui pourrait être utile pour comprendre les préférences des utilisateurs.

Mais on ne sait pas vraiment pourquoi il est, du moins perçu comme, particulièrement efficace pour adapter le contenu. Nous disposons de quelques informations sur son fonctionnement, mais il est difficile de connaître une raison précise pour laquelle cela pourrait être particulièrement efficace.

Feltman : Alors, étant donné ce que nous savons sur les acheteurs proposés pour TikTok et la puissance de l’algorithme TikTok, quelles sont les implications si la vente est conclue ?

Clavette : Oui, parce que l’algorithme est si central dans la vie de la plateforme, peu importe dans quelles mains il se trouve, car il façonnera directement, encore une fois, à quoi ressemblera la plateforme – à quoi ressemblera cette nouvelle application américaine.

Ainsi, les investisseurs proposés, ou le [investors] qui ont été partagés, sont des entités connues. Oracle, bien sûr, est un acteur important, et ils conservent les données de TikTok aux États-Unis depuis un certain temps. [few] des années maintenant, donc celui-là était en quelque sorte le résultat de cette relation établie. Mais je pense qu’une grande partie de l’inquiétude concernant les investisseurs qui ont été nommés est qu’ils semblent tous avoir des liens avec l’administration Trump, avoir des opinions plus conservatrices, et cela a le potentiel de changer le type d’orientation idéologique de la plate-forme si les investisseurs décident qu’ils veulent modifier l’algorithme d’une certaine manière ou modifier les directives communautaires de cette nouvelle application d’une manière qui pourrait changer ce qui est considéré comme un discours acceptable ou inacceptable.

Alors peut-être qu’une chose importante à noter est la suivante : plus tôt, alors que nous étions encore en discussion sur la tentative de législation visant à interdire TikTok, les préoccupations des législateurs, en particulier des législateurs républicains, étaient que les hashtags palestiniens étaient plus visibles sur TikTok que les hashtags israéliens ; il est supposé qu’il y a une sorte de déséquilibre dans le contenu. Ainsi, avec un propriétaire qui a un point de vue idéologique fort et qui a la volonté d’en faire une partie de l’application, il est possible, en peaufinant l’algorithme, de remodeler en quelque sorte la composition globale du contenu sur la plate-forme.

Cela n’a donc pas à voir avec la propriété, mais avec la nouvelle application, car elle sera réservée aux utilisateurs américains. Ils disent donc qu’il y aura du contenu mondial qui sera toujours visible sur la plateforme, mais le utilisateurs car cette application sera américaine. Nous pouvons donc nous attendre à ce que si ce nouvel algorithme, sous licence ByteDance, est recyclé sur des utilisateurs uniquement américains, les valeurs, préférences et comportements américains qui éclairent la conservation du contenu par l’algorithme sur le site – nous pourrions nous attendre à voir des changements subtils, simplement en raison de la nature de cet ensemble de données différent sur lequel il est construit.

Et si les utilisateurs perçoivent la nouvelle application comme étant entre les mains des alliés de Trump ou comme étant plus conservateurs dans leurs points de vue et craignent que ces investisseurs puissent exercer une influence sur le contenu de l’application, nous pourrions nous attendre à voir certains utilisateurs quitter l’application. Cela pourrait donc aboutir à une situation dans laquelle non seulement il s’agirait d’une application composée uniquement de personnes basées aux États-Unis, mais également d’un sous-ensemble d’utilisateurs américains, en particulier ceux qui pourraient être de droite, ce qui aurait également, encore une fois, un impact très important sur les types de contenu que vous y voyez.

Donc, en fin de compte, la nouvelle application pourrait être radicalement différente de ce qu’elle est actuellement, en fonction de ce qui se passe avec les décisions prises par les investisseurs, les décisions des utilisateurs, qui reste et qui part, et tout ça.

Feltman : Eh bien, merci beaucoup d’être venu en parler avec nous. Nous allons certainement vous contacter pour discuter davantage si cette vente se concrétise.

Clavette : Ouais, je serais heureux de discuter davantage. Merci encore de m’avoir invité.

Feltman : C’est tout pour l’épisode d’aujourd’hui. Nous serons de retour vendredi pour découvrir comment les friandises d’Halloween peuvent jouer des tours à nos microbes intestinaux.

La science rapidement est produit par moi, Rachel Feltman, avec Fonda Mwangi et Jeff DelViscio. Cet épisode a été édité par Alex Sugiura. Shayna Posses et Aaron Shattuck vérifient notre émission. Notre thème musical a été composé par Dominic Smith. Abonnez-vous à Américain scientifique pour des actualités scientifiques plus récentes et plus approfondies.

Pour Américain scientifique, voici Rachel Feltman. A la prochaine fois !