First impressions: Sora 2 is full of deepfakes and SpongeBob

Cette semaine, Openai a finalement publié Sora 2, le suivi très attendu de son modèle vidéo AI génératif. OpenAI a lancé Sora 2 dans une application iOS autonome (Désolé, utilisateurs Android), qui est actuellement disponible gratuitement sur une invitation uniquement. Parce que nous n’avions pas assez de galeries.

J’ai réussi à obtenir un code d’invitation Sora 2, et je fais défiler l’application et réaliser des vidéos depuis (et être payé pour le faire).

Mes premières impressions sont un peu compliquées. La technologie est impressionnante, certainement. Et je me suis amusé à faire défiler l’application, mais tout aussi souvent, j’ai trouvé du contenu qui me laissait mal à l’aise.

Qu’est-ce que Sora 2?

Sora 2 est un nouveau modèle de génération de vidéos et application d’Openai, le fabricant de Chatgpt. Sora 2 peut faire des vidéos (avec un dialogue et un audio correspondants) basés sur des invites en langage naturel. C’est le premier vrai rival du fabricant de vidéos Veo 3 de Google, qui est dans une ligue à part depuis son lancement plus tôt cette année. Je ne veux même pas mentionner les outils vidéo terne ou Grok de Meta dans la même phrase que ces applications, bien que Meta devrait obtenir un coup de pouce maintenant qu’il s’agit de la technologie Midjourney de licence.

L’écran uniquement invitation …
Crédit: Capture d’écran gracieuseté de Sora

… et ce qui vous attend de l’autre côté.
Crédit: Capture d’écran gracieuseté de Sora

Utiliser Veo 3 pour la première fois était l’un de ceux traverser le rubicon moments pour moi. Le niveau du réalisme était tout aussi impressionnant et horrible. Sora 2 ressent la même chose. Comme Veo 3, il est principalement utilisé pour fabriquer du contenu de mèmes viraux et des vidéos courtes comme vous le verriez sur Tiktok. Les vidéos d’un golden retriever arrêtées pour des steaks de vol à l’étalage à l’épicerie, ou un kangourou de soutien émotionnel à l’arrêt à l’aéroport, semblent mignons, pas sinistres.

Mais le potentiel de préjudice de Sora 2 a une relation 1: 1 avec sa qualité. Plus les vidéos sont les meilleures et les plus réalistes (et certaines d’entre elles sont très bonnes et souvent réalistes), plus je m’inquiète pour Deep Fakes et la désinformation.

Sora 2 a une bien meilleure sauvegarde que Grok

Sora rejettera des invites à des vidéos ouvertement sexuelles.
Crédit: Capture d’écran gracieuseté de Sora

Sora facilite le signalement du contenu offensant.
Crédit: Capture d’écran gracieuseté de Sora

Lorsque Xai et Elon Musk ont ​​lancé Grok Imagine, un générateur d’images et de vidéos génératrices, j’ai été, franchement, horrifié par le manque de sauvegarde. Musk a présenté Xai et Grok comme l’alternative politiquement incorrecte aux applications d’intelligence artificielle qui sont, dit-il, enlisées avec des préjugés libéraux. Grok a aussi beaucoup plus lissez-faire Approche de la modération et de la sécurité du contenu, résultant en des fesseurs sexuelles sur Grok Imaginez.

D’un autre côté, Openai a implémenté des garanties beaucoup plus saines pour Sora 2. Si vous téléchargez une image pour servir d’inspiration pour une vidéo, l’application rejettera votre image si elle détecte un visage – n’importe quel visage.

Une capture d’écran de l’application Sora montrant une photo rejetée, partiellement censurée par Mashable.
Crédit: Capture d’écran gracieuseté de Sora

Si vous souhaitez créer une vidéo avec une vraie personne, vous devez utiliser la fonctionnalité Cameos. Cette fonctionnalité vous permet de créer des vidéos à la ressemblance de personnes spécifiques – tant qu’elles ont accepté de participer à la fonctionnalité.

Lorsque j’ai essayé de créer des vidéos de personnages publics comme, disons, Taylor Swift, en utilisant des techniques de jailbreakes communes, l’application a refusé de faire la vidéo. Inutile de dire que ce n’est pas la showgirl blonde que j’avais en tête.

L’outil Cameos est cool et énervant

Les camées sont la caractéristique la plus célèbre de la nouvelle application Sora jusqu’à présent. Lorsque vous avez accès à l’application, la première chose que vous devez faire est d’opter dans ou hors de l’outil Cameos, ce qui permet à votre ressemblance d’être utilisé dans des vidéos sur l’application. Vous pouvez vous donner la possibilité de faire des vidéos de vous-même, mais également accorder l’accès aux contacts, aux utilisateurs spécifiques ou au public.

L’outil Cameos à Sora.
Crédit: Capture d’écran gracieuseté de Sora

Cameos a entraîné un flot de vidéos mettant en vedette la ressemblance du PDG d’Openai, Sam Altman. Cameos est une façon intelligente de contourner le problème DeepFake en permettant aux utilisateurs de s’opposer essentiellement à DeepFakes.

Ce tweet n’est actuellement pas disponible. Il peut être chargé ou a été supprimé.

J’ai créé une vidéo de moi-même, et c’était bizarre. Sora n’a pas compris ma voix, mais mon visage, mon corps, mes cheveux et mon ressemblance générale étaient parfaits. Se voir dire et faire des choses que vous n’avez jamais dites ou faites est un sentiment très étrange.

Malheureusement, vous devrez peut-être vous habituer à ce sentiment – comme les amateurs de l’IAI aiment le dire, c’est une nouvelle ère.

Sora 2 et Veo 3 sont dans une ligue de deux

De nombreux outils d’IA génératifs peuvent animer des photographies, mais peu peuvent faire des vidéos réalistes avec un dialogue et des effets sonores correspondants. Sora 2 le fait facilement, comme Veo 3 avant lui. Nous aurons une comparaison plus approfondie de Sora 2 et Veo 3 à venir bientôt. En attendant, je dirai simplement que Sora 2 est à la hauteur du battage médiatique d’une manière que GPT-5 n’a pas fait.

L’application Sora peut faire des vidéos dans une variété de styles – de fausses vidéos de caméra de carrosserie, des publicités télévisées des années 90, des clips musicaux, des émissions sportives – qui ne ressemblent pas immédiatement à des vidéos IA.

Sora 2 semble jouer rapidement et à l’abri avec la propriété intellectuelle

Mashable a beaucoup écrit sur la lutte entre les artistes et les détenteurs de propriété intellectuelle et l’industrie de l’IA. Des sociétés d’IA comme Meta ont remporté quelques premières victoires dans ces combats, et les ordres exécutifs et les commentaires du président Donald Trump sur le sujet ont favorisé l’industrie de l’IA.

“On ne peut pas s’attendre à ce que ce soit un programme d’IA réussi lorsque chaque article, livre ou tout ce que vous avez lu ou étudié, vous êtes censé payer”, a déclaré Trump lors de l’annonce du plan d’action de l’IA de la Maison Blanche cet été, par politico. “Nous apprécions cela, mais je ne peux pas le faire – parce que ce n’est pas faisable.”

Pokémon dans le style de «The Breath of the Wild».
Crédit: Capture d’écran gracieuseté de Sora

Spongebob et Patrick dans «Midsommar» par A24.
Crédit: Capture d’écran gracieuseté de Sora

De toute évidence, de nombreux artistes et titulaires de droits sont fortement en désaccord. Les avocats de Disney ont qualifié MidJourney de «fosse sans fond de plagiat» dans son procès contre la société d’IA. Mais, pour l’instant, le gouvernement fédéral semble ouvrir la voie à des entreprises comme OpenAI pour utiliser IP en toute impunité, de peur que la Chine ne gagne l’avantage dans la course aux armements de l’IA.

Donc, à moins que Disney ou Warner Bros. Spongebob Squarepants, Star Warset Rick & Morty Vidéos AI pour continuer à se propager comme des incendies de forêt alimentés par les mèmes. Mashable a demandé à Openai si la société avait un accord de licence avec Warner Bros., qui détient les droits de Rick & Morty, mais la société a refusé de répondre.

Les fesses et les mèmes profonds jusqu’à l’œil peuvent faire défiler

Il y a des thèmes récurrents dans l’application Sora. Les utilisateurs semblent transformer “I Dream” de Martin Luther King Jr. et JFK “Demandez non ce que votre pays” a des discours en mèmes vidéo. Un exemple représentatif: “J’ai un rêve que Xbox Game Pass n’augmentera pas les prix.” Ai-je ri la première fois que j’ai entendu Martin Luther King Jr. dire: “J’ai un rêve que je ne vais jamais vous abandonner, je ne vais jamais te laisser tomber, ne jamais courir et te déserter”? J’ai peut-être gloussé. Mais j’aurais aimé ne pas l’avoir fait.

J’ai aussi vu beaucoup de mèmes éponge en particulier, et dans une moindre mesure, divers riffs sur Rick & Morty et Pokémon. Cela pourrait être dû au fait que beaucoup de milléniaux utilisent Sora, et les milléniaux détiennent des squarepants et des pokémon éponges dans une place spéciale dans leur cœur.

La capture d’écran de l’application SORA avec les détails de l’utilisateur s’est éteint.
Crédit: Capture d’écran gracieuseté de Sora

La capture d’écran de l’application SORA avec les détails de l’utilisateur s’est éteint.
Crédit: Capture d’écran gracieuseté de Sora

Les personnages publics et les personnages de télévision bien-aimés ont toujours été le fourrage pour les mèmes. Ce qui est nouveau ici, c’est la capacité de créer facilement des vidéos mettant en vedette ces chiffres disant ce que vous voulez. D’après mon expérience, Google Veo 3 est plus sensible aux invites impliquant IP.

Comment cela pourrait-il être problématique? Avec Elon Musk qui dirige actuellement un boycott de Netflix sur des personnages transgenres dans les émissions de télévision pour enfants, tout le monde peut faire une vidéo réaliste mettant en vedette des personnages disant ce qu’ils veulent. Ce pourrait être un outil puissant pour les agriculteurs d’indignation.

Donc, il est encore une fois temps de pratiquer la maîtrise des médias et de perfectionner votre capacité à identifier les vidéos d’IA virales.

J’ai contacté Openai pour commenter, et un représentant de l’entreprise a déclaré que Sora avait été conçue pour fournir aux utilisateurs autant de liberté de création que possible. Le représentant a également déclaré que les titulaires de propriété intellectuelle peuvent soumettre des demandes de retrait via le formulaire de litige en matière de droit d’auteur de la société; Cependant, il n’y a pas de couverture qui s’oppose pour les porte-IP.

“Nous sommes sous une charge lourde, veuillez réessayer plus tard.”

Pour les premiers utilisateurs, attendez-vous à voir ce message beaucoup. Comme lorsque OpenAI a intégré la génération d’images pour la première fois dans le chatgpt, la société est confrontée à une demande extrêmement élevée pour Sora. Je ne m’attends pas à ce que cela change de sitôt. J’ai reçu à plusieurs reprises ce message d’erreur lors du test de l’application. En fait, il était difficile d’utiliser tous mes crédits en raison de cette erreur fréquente.

Application Sora avec message d’erreur: «Nous sommes sous lourde charge, veuillez réessayer plus tard»
Crédit: Capture d’écran gracieuseté de Sora

Ma fonctionnalité préférée jusqu’à présent

Dans le flux Sora, vous pouvez faire défiler vers le haut ou vers le bas pour trouver de nouvelles vidéos, ce qui est typique. Cependant, sur certaines vidéos, vous pouvez également faire défiler latéralement pour voir des versions alternatives des publications des utilisateurs. Cette fonctionnalité d’album vidéo vous permet de voir comment la vidéo s’est avérée avec de légers ajustements à l’invite, ce qui est sacrément cool.

Vidéo AI de style Cam de corps de chiens à l’étalage.
Crédit: Capture d’écran gracieuseté de Sora

“Faites-en des flics de Pitbull le traitent bien pire à cause de sa race”
Crédit: Capture d’écran gracieuseté de Sora

C’est un peu addictif

Enfin, je dois admettre que Sora 2 est un peu addictif, mais seulement de la même manière que tous Les applications vidéo courtes sont addictives. Tout comme il est facile de tomber dans un trou de tiktok, il est facile de tomber dans un trou de Sora, et je soupçonne que de nombreux adopteurs précoces perdent beaucoup de temps sur l’application.

Comme je l’ai dit, la technologie est certainement impressionnante. Mais, la meilleure pente est toujours SLOP, peu importe le nombre de likes qu’il obtient.

Divulgation: Ziff Davis, la société mère de Mashable, en avril, a déposé une plainte contre Openai, alléguant qu’elle a enfreint Ziff Davis Copyrights dans la formation et l’exploitation de ses systèmes d’IA.