YouTube : l’outil de détection des deepfakes IA accessibles à tous les adultes

YouTube étend la détection de deepfakes générés par l’IA à tous les adultes. La plateforme introduit un système de scan du visage et des notifications automatiques pour repérer les vidéos manipulées à l’aide de l’intelligence artificielle.

YouTube a annoncé une extension majeure de son système de détection des deepfakes générés par l’intelligence artificielle, le rendant accessible à tous les utilisateurs majeurs. Jusqu’à présent, l’outil était réservé à certains créateurs en vue, aux journalistes, aux responsables politiques et aux personnalités publiques : il devient désormais disponible pour toute personne souhaitant protéger son identité numérique. L’objectif est de lutter contre la diffusion de vidéos manipulées qui exploitent le visage d’une personne sans son autorisation.

Comment fonctionne le système de reconnaissance du visage

Le dispositif repose sur une procédure de vérification qui inclut un selfie vidéo et la reconnaissance faciale biométrique. Une fois la fonction activée, disponible dans YouTube Studio dans la section dédiée au "content detection" ("détection de contenu"), la plateforme lance un scan en continu des vidéos mises en ligne sur YouTube. Lorsque l’algorithme détecte une correspondance entre le visage de l’utilisateur et un contenu suspect, il envoie une notification automatique qui permet à l’intéressé d’intervenir.

Notifications et demandes de suppression : l’utilisateur reprend la main

Lorsqu’un usage non autorisé potentiel de son image est détecté, l’utilisateur peut analyser le contenu signalé et décider de lancer ou non une demande de suppression. Chaque cas est examiné individuellement, en tenant compte d’éléments tels que le réalisme de la vidéo, la présence de mentions indiquant le recours à l’IA et le contexte dans lequel le visage est utilisé. Les contenus satiriques ou parodiques restent exclus de tout blocage automatique et continuent de figurer parmi les exceptions prévues par les règles de la plateforme.

Une protection limitée au visage, pas à la voix

Le système se concentre pour l’instant exclusivement sur la reconnaissance faciale, sans s’étendre à la voix ni à d’autres caractéristiques biométriques. Il s’agit de l’une des principales limites de cette technologie, d’autant que de nombreux deepfakes combinent image et audio pour paraître plus crédibles. L’accès au service ne dépend ni du nombre d’abonnés ni de la popularité de la chaîne, mais uniquement du critère de majorité (âge) et d’une activation volontaire.

Vie privée, risques et nouveaux défis pour les plateformes

YouTube a précisé que les utilisateurs pourront, à tout moment, désactiver le service et demander la suppression de leurs données biométriques. Néanmoins, le déploiement à grande échelle du système soulève de nouvelles questions liées à la protection de la vie privée, à la fiabilité de la reconnaissance et à la gestion des erreurs, en particulier pour les visages moins connus. Tout l’enjeu sera de trouver un équilibre entre la protection de l’identité et le risque de signalements erronés ou d’automatisation excessive.

Source : Communauté YouTube