Face à la montée inquiétante des contenus générés par intelligence artificielle, Youtube propose un nouvel outil permettant aux utilisateurs de repérer leurs propres doubles numériques. Jusqu'à présent, cette fonctionnalité était réservée aux grandes figures telles que les politiques et les artistes. Désormais, tous les internautes âgés de plus de 18 ans pourront demander à la plateforme de surveiller l’apparition éventuelle de deepfakes utilisant leur image sans leur consentement, rapporte The Verge.
L'outil, en phase de test depuis fin 2024, a été conçu pour offrir un meilleur contrôle sur l'image des utilisateurs. En transmettant un selfie, ces derniers peuvent recevoir des notifications en cas de détection d'une imitation de leur visage dans des vidéos publiées. En cas de correspondance, ils ont la possibilité de demander la suppression du contenu non autorisé.
Un niveau de protection homogène
Cette innovation repose sur une technologie d’analyse faciale similaire à celle utilisée dans certaines applications de reconnaissance biométrique. Youtube examine les demandes de retrait à l'aide de plusieurs critères, tels que le réalisme du contenu et la présence de mentions indiquant qu'il a été généré par IA. Comme le souligne le porte-parole de Youtube, Jack Malon : "Grâce à cette extension, nous indiquons clairement que, qu'ils publient sur Youtube depuis dix ans ou qu'ils débutent tout juste, les créateurs auront accès au même niveau de protection." De telles avancées ciblent non seulement les célébrités, mais également toute personne préoccupée par d'éventuelles manipulations visuelles.
Une réponse à la crise des deepfakes
La prolifération des deepfakes inquiète de plus en plus, non seulement pour leur potentiel de manipulation mais aussi pour leur usage à des fins malveillantes. De plus, l’outil ne prend en compte que la ressemblance faciale, laissant de côté d'autres aspects, tels que les clonages vocaux. La fin de l’année 2023 a été marquée par des moments controversés, notamment l'émergence d'outils capables de générer des vidéos à l'apparence réaliste, certains ayant même conduit à des décisions de déploiement de réglementation sur ces technologies. C'est le cas d'OpenAI qui a suspendu un outil viral après des abus liés à la manipulation d'images de figures publiques.
En élargissant sa fonctionnalité, Youtube répond à une préoccupation grandissante liée à la perte de contrôle sur son identité numérique. Ces récents développements soulignent l'importance de la vigilance dans une ère où les technologies d'IA redéfinissent les limites de la création et de l'authenticité.
