Vos proches et les vidéos étranges de Tom Cruise : ravivez le malaise avec les DeepFakes

Vos proches et les vidéos étranges de Tom Cruise : ravivez le malaise avec les DeepFakes

Pour ceux qui craignent un avenir dans lequel les vidéos de personnes réelles sont indiscernables des contrefaçons générées par ordinateur, deux développements récents qui ont attiré des millions de spectateurs auraient pu sembler alarmants.

Tout d'abord, un artiste d'effets visuels a travaillé avec un imitateur de Tom Cruise pour créer des vidéos étonnamment précises imitant l'acteur. Les vidéos, créées à l'aide de techniques d'apprentissage automatique et connues sous le nom de deepfakes, ont enregistré des millions de vues sur TikTok, Twitter et d'autres réseaux sociaux fin février.

Puis, quelques jours plus tard, MyHeritage, un site Web de généalogie surtout connu pour son rôle dans la recherche de l'identité du Golden State Killer, a proposé un outil pour animer numériquement de vieilles photographies d'êtres chers, créant une courte vidéo en boucle dans laquelle les gens peuvent être vus. remuer la tête et même sourire. Plus de 26 millions d'images avaient été animées à l'aide de l'outil, appelé Deep Nostalgia, lundi, a indiqué la société.

Les vidéos ont renouvelé l'attention sur le potentiel des médias synthétiques, qui pourraient conduire à des améliorations significatives dans les secteurs de la publicité et du divertissement. Mais la technologie pourrait également être utilisée – et l'a été – pour soulever des doutes sur des vidéos légitimes et pour insérer des personnes, y compris des enfants, dans des images pornographiques.

Les créateurs du viral Tom Cruise TikToks ont déclaré que l'expertise requise pour utiliser la technologie en rendait l'abus beaucoup plus difficile, et la société à l'origine de l'outil d'animation photo a déclaré qu'elle avait mis en place des garanties pour éviter les abus. Les experts disent que les deux exemples ne sont pas trop alarmants, mais qu'ils soulèvent des questions sur l'avenir de la technologie qui devrait être envisagée alors qu'elle en est encore à ses balbutiements.

"Bien que Deep Nostalgia soit en soi inoffensif, il fait partie de cet ensemble d'outils potentiellement très menaçants", a déclaré Sam Gregory, directeur du programme de Witness, une organisation à but non lucratif axée sur l'utilisation éthique de la vidéo et experte en intelligence artificielle.

L'imitation numérique de M. Cruise n'a pas été chose facile. Chris Ume, l'artiste d'effets visuels en Belgique qui a créé les vidéos, a déclaré dans une interview qu'elles nécessitaient une expertise et du temps considérables.

La plupart de ce que vous voyez dans les vidéos est le corps et la voix de Miles Fisher, un imitateur de Tom Cruise qui parlait déjà couramment les manières et les sons de l'acteur et qui ressemble fortement même sans les manipulations. Seul le visage, du front au menton, du vrai Tom Cruise est montré dans les vidéos.

Il a passé deux mois à former son modèle informatique pour créer les expressions faciales de M. Cruise, en le nourrissant d'abord d'une vidéo de visages aléatoires avant de se concentrer sur M. Cruise. M. Ume a passé environ 24 heures en production pour chaque vidéo d'une minute, affinant des détails comme l'alignement des yeux.

Même si la technologie s'améliore, des vidéos comme la sienne nécessiteraient un travail manuel important et un imitateur qualifié, a-t-il déclaré.

"C'est comme un petit studio hollywoodien avec nous deux", a-t-il déclaré. "Ce n'est pas quelque chose que vous pouvez faire sur un ordinateur à la maison, en appuyant sur un bouton."

L'outil Deep Nostalgia a été créé pour MyHeritage par D-ID, une société d'intelligence artificielle basée à Tel Aviv. Gil Perry, le directeur général de D-ID, a déclaré que la société ne travaille qu'avec des partenaires en qui elle peut avoir confiance pour ne pas abuser de la technologie, et qu'elle entretient une relation de quatre ans avec MyHeritage.

Les vidéos créées à l'aide de l'outil ont des filigranes pour indiquer qu'elles ne sont pas réelles, et les vidéos n'incluent pas d'audio, une décision qui, selon M. Perry, rend plus difficile leur utilisation à des fins peu recommandables.

Il a déclaré que la technologie qui alimentait Deep Nostalgia n'était "que la pointe de l'iceberg de ce que nous sommes capables de faire".

"Le potentiel de la bonne partie de cette technologie est infini", a-t-il déclaré.

Lorsque les optimistes parlent des atouts possibles de la technologie, ils soulignent souvent ses utilisations dans le plaidoyer, où elle peut mettre un visage sur les problèmes et créer des liens émotionnels plus profonds.

Une organisation non gouvernementale a créé une vidéo de Javier Arturo Valdez Cárdenas, un journaliste mexicain assassiné en 2017, dans laquelle il semblait demander justice pour son propre meurtre. Les parents de Joaquin Oliver, un jeune de 17 ans qui a été assassiné lors de la fusillade de masse dans un lycée de Parkland, en Floride, en 2018, l'ont ressuscité numériquement pour une vidéo faisant la promotion de la législation sur la sécurité des armes à feu. La police de l'État australien de Victoria a utilisé un policier décédé par suicide en 2012 pour transmettre un message sur le soutien en santé mentale.

Et "Bienvenue en Tchétchénie", un documentaire sorti l'année dernière sur les purges anti-gays et lesbiennes en Tchétchénie, a utilisé la technologie pour protéger l'identité des Tchétchènes à risque.

Les effets pourraient également être utilisés à Hollywood pour mieux vieillir ou vieillir les acteurs, ou pour améliorer le doublage de films et d'émissions de télévision dans différentes langues, en alignant étroitement les mouvements des lèvres sur la langue à l'écran. Les dirigeants d'entreprises internationales pourraient également avoir l'air plus naturels lorsqu'ils s'adressent à des employés qui parlent différentes langues.

Mais les critiques craignent que la technologie ne soit davantage abusée à mesure qu'elle s'améliore, en particulier pour créer de la pornographie qui place le visage d'une personne sur le corps de quelqu'un d'autre.

Nina Schick, l'auteur de "Deepfakes : The Coming Infocalypse", a déclaré que la première pornographie deepfake prenait des heures de vidéo à produire, les célébrités étaient donc les cibles typiques. Mais à mesure que la technologie devient plus avancée, moins de contenu sera nécessaire pour créer les vidéos, mettant davantage de femmes et d'enfants en danger.

Un outil de l'application de messagerie Telegram qui permettait aux utilisateurs de créer des images nues simulées à partir d'une seule photo téléchargée a déjà été utilisé des centaines de milliers de fois, selon BuzzFeed News.

0:00
/

"Cela deviendra un problème qui peut affecter tout le monde, en particulier ceux qui n'ont pas les ressources pour se protéger", a déclaré Mme Schick.

La technologie pourrait également avoir un effet déstabilisateur sur les affaires mondiales, car les politiciens prétendent que les vidéos, y compris les authentiques, sont fausses afin d'obtenir un avantage que les professeurs de droit Robert Chesney et Danielle Citron ont appelé le "dividende du menteur".

Au Gabon, les dirigeants de l'opposition ont affirmé qu'une vidéo du président Ali Bongo Ondimba prononçant un discours du Nouvel An en 2019 avait été truquée dans le but de dissimuler des problèmes de santé. L'année dernière, un candidat républicain à un siège à la Chambre dans la région de Saint-Louis a affirmé que la vidéo de la mort de George Floyd en garde à vue avait été mise en scène numériquement.

Au fur et à mesure que la technologie progressera, elle sera utilisée plus largement, selon M. Gregory, l'expert en intelligence artificielle, mais ses effets sont déjà prononcés.

"Les gens essaient toujours de penser au deepfake parfait quand cela n'est pas nécessaire pour les utilisations nocives ou bénéfiques", a-t-il déclaré.

En introduisant l'outil Deep Nostalgia, MyHeritage a abordé la question du consentement, demandant aux utilisateurs de "veuillez utiliser cette fonctionnalité sur vos propres photos historiques et non sur des photos mettant en scène des personnes vivantes sans leur permission". M. Ume, qui a créé les deepfakes de M. Cruise, a déclaré qu'il n'avait eu aucun contact avec l'acteur ou ses représentants.

Bien sûr, les personnes décédées ne peuvent pas consentir à figurer dans des vidéos. Et cela compte si les personnes décédées – en particulier les célébrités – peuvent être ressuscitées numériquement, comme l'artiste Bob Ross devait vendre Mountain Dew, ou comme Robert Kardashian l'a été l'année dernière dans un cadeau à sa fille Kim Kardashian West de son mari, Kanye West.

Henry Ajder, un chercheur en deepfakes, a imaginé un avenir dans lequel nos propres voix pourraient être utilisées avec des assistants comme Alexa d'Amazon, nous permettant de rester en contact avec nos proches après notre mort. Ou, comme le postule un épisode de "Black Mirror", des aspects entiers de nos personnalités pourraient être simulés après la mort, entraînés par nos voix sur les réseaux sociaux.

Mais cela soulève une question délicate, dit-il : « Dans quels cas avons-nous besoin du consentement du défunt pour le ressusciter ?

"Ces questions vous mettent mal à l'aise, quelque chose vous semble un peu faux ou troublant, mais il est difficile de savoir si c'est simplement parce que c'est nouveau ou si cela fait allusion à une intuition plus profonde à propos de quelque chose de problématique", a déclaré M. Ajder.