NEW YORK (AP) - Une vidéo manipulée imitant la voix de la vice-présidente Kamala Harris disant des choses qu'elle n'a pas dites suscite des inquiétudes quant au pouvoir de l'intelligence artificielle à tromper alors que le jour des élections approche à environ trois mois. La vidéo a attiré l'attention après que le milliardaire de la technologie Elon Musk l'ait partagée sur sa plateforme de médias sociaux X vendredi soir sans mentionner explicitement qu'elle avait été initialement publiée en tant que parodie. La vidéo utilise de nombreux éléments visuels identiques à une vraie publicité que Harris, probable candidate démocrate à la présidence,, a publiée la semaine dernière pour lancer sa campagne. Mais la vidéo remplace l'audio du doublage voix par une autre voix qui imite de manière convaincante Harris. "Je, Kamala Harris, suis votre candidate démocrate à la présidence car Joe Biden a finalement révélé sa sénilité lors du débat", dit la voix dans la vidéo. Il affirme que Harris est une "embauche pour la diversité" car elle est une femme et une personne de couleur, et il dit qu'elle ne sait rien "sur la direction du pays". La vidéo conserve la marque "Harris for President". Elle ajoute également quelques clips authentiques de Harris.
Mia Ehrenberg, porte-parole de la campagne de Harris, a déclaré dans un e-mail à l'Associated Press : "Nous croyons que le peuple américain veut la véritable liberté, l'opportunité et la sécurité que la vice-présidente Harris propose; pas les mensonges faux et manipulés d'Elon Musk et de Donald Trump."
La vidéo largement partagée est un exemple de la manière dont des images, des vidéos ou des extraits audio générés par IA de manière très réaliste ont été utilisés à la fois pour se moquer et pour tromper en politique à mesure que les États-Unis se rapprochent de l'élection présidentielle. Elle révèle comment, à mesure que des outils IA de haute qualité sont devenus beaucoup plus accessibles, il y a toujours un manque d'action fédérale significative jusqu'à présent pour réglementer leur utilisation, laissant la réglementation de l'IA en politique principalement aux États et aux plateformes de médias sociaux.
La vidéo soulève également des questions sur la meilleure façon de traiter les contenus qui brouillent les frontières de ce qui est considéré comme une utilisation appropriée de l'IA, en particulier s'ils relèvent de la catégorie de la satire.
L'utilisateur d'origine qui a posté la vidéo, un YouTuber connu sous le nom de Mr Reagan, a divulgué à la fois sur YouTube et sur X que la vidéo manipulée est une parodie. Mais la publication de Musk, qui a été vue plus de 123 millions de fois, selon la plateforme, ne comprend que la légende "C'est incroyable" avec un emoji riant.
Les utilisateurs de X qui sont familiers avec la plateforme peuvent savoir de cliquer sur la publication de Musk pour accéder à la publication de l'utilisateur d'origine, où la divulgation est visible. La légende de Musk ne les oriente pas vers cela.
À savoir sur les élections de 2024
- Démocratie: La démocratie américaine a surmonté de grands tests depuis 2020. D'autres défis attendent en 2024.
- Où l'AP est intervenu: L'Associated Press est la source d'information la plus fiable pour la soirée électorale, avec une histoire de précision remontant à 1848. En savoir plus.
- Rester informé. Gardez un œil sur les actualités avec des alertes e-mail sur les nouvelles de dernière minute. Inscrivez-vous ici.
Alors que certains participants à la fonctionnalité de "communauté" de X pour ajouter du contexte aux publications ont suggéré d'étiqueter la publication de Musk, aucune étiquette n'avait été ajoutée à celle-ci jusqu'au dimanche après-midi. Certains utilisateurs en ligne ont remis en question si sa publication pourrait enfreindre les politiques de X, qui mentionnent que les utilisateurs "ne doivent pas partager de médias synthétiques, manipulés ou hors contexte susceptible de tromper ou de confondre les gens et de causer préjudice".
La politique autorise les memes et la satire tant qu'ils ne causent pas "une confusion significative sur l'authenticité des médias".
Musk a soutenu l'ancien président Donald Trump, le candidat républicain, plus tôt ce mois-ci. Ni M. Reagan ni Musk n'ont immédiatement répondu aux demandes de commentaires par e-mail dimanche.
Deux experts spécialisés dans les médias générés par l'IA ont examiné l'audio de la fausse publicité et ont confirmé que la majeure partie avait été générée à l'aide de la technologie IA.
L'un d'eux, l'expert en contrefaçons numériques de l'Université de Californie, Berkeley, Hany Farid, a déclaré que la vidéo montre la puissance de l'IA générative et des deepfakes.
"La voix générée par l'IA est très bonne", a-t-il dit dans un e-mail. "Même si la plupart des gens ne croiront pas que c'est la voix de la vice-présidente Harris, la vidéo est d'autant plus puissante lorsque les mots sont dans sa voix."
Il a déclaré que les entreprises d'IA générative qui mettent à disposition du public des outils de clonage vocal et d'autres outils IA devraient faire mieux pour garantir que leurs services ne sont pas utilisés de manière à nuire aux personnes ou à la démocratie.
Rob Weissman, co-président du groupe de défense Public Citizen, n'était pas d'accord avec Farid, disant qu'il pensait que beaucoup de gens seraient dupés par la vidéo.
"Je ne pense pas que ce soit évidemment une blague", a déclaré Weissman dans une interview. "Je suis sûr que la plupart des gens qui le regardent ne supposent pas que c'est une blague. La qualité n'est pas géniale, mais elle est suffisamment bonne. Et précisément parce qu'elle alimente des thèmes préexistants qui ont circulé autour d'elle, la plupart des gens la croiront réelle."
Weissman, dont l'organisation a plaidé pour que le Congrès, les agences fédérales et les États réglementent l'IA générative, a déclaré que la vidéo est "le type de chose dont nous avons avertis".
D'autres deepfakes générés par l'IA aux États-Unis et ailleurs ont tenté d'influencer les électeurs avec de la désinformation, de l'humour ou les deux. En Slovaquie en 2023, des extraits audio truqués imitaient un candidat discutant de plans pour truquer une élection et augmenter le prix de la bière quelques jours avant le vote. En Louisiane en 2022, une publicité satirique d'un comité d'action politique superposait le visage d'un candidat à la mairie de Louisiane sur un acteur le dépeignant comme un élève médiocre du lycée.
Le Congrès n'a pas encore adopté de législation sur l'IA en politique, et les agences fédérales ont seulement pris des mesures limitées, laissant la plupart de la réglementation existante aux États. Plus d'un tiers des États ont créé leurs propres lois régissant l'utilisation de l'IA dans les campagnes et les élections, selon la Conférence nationale des législatures d'État.
En dehors de X, d'autres sociétés de médias sociaux ont également créé des politiques concernant les médias synthétiques et manipulés partagés sur leurs plateformes. Les utilisateurs de la plateforme vidéo YouTube, par exemple, doivent indiquer s'ils ont utilisé de l'intelligence artificielle générative pour créer des vidéos ou faire face à une suspension.
L'Associated Press reçoit un soutien de plusieurs fondations privées pour améliorer sa couverture explicative des élections et de la démocratie. En savoir plus sur l'initiative de démocratie de l'AP ici . L'AP est seul responsable de tout le contenu.
