Un nouveau petit tool d’intelligence artificielle baptisé Deep-Live-Cam fait actuellement parler de lui sur les réseaux sociaux. Et pour cause : cet outil permet de remplacer en temps réel le visage d’une personne sur une webcam par celui d’une autre, à partir d’une simple photo. Une prouesse technologique qui va poser de sérieux soucis quant aux risques de fraude et d’usurpation d’identité.
L’outil rêvé pour les scamers de tous poils ?
Depuis quelques jours, des vidéos démontrant les capacités de Deep-Live-Cam circulent massivement en ligne. On y voit notamment des utilisateurs imiter en direct Elon Musk ou le candidat républicain à la vice-présidence J.D. Vance, avec un réalisme troublant. L’engouement est tel que le projet open source a brièvement atteint la première place des dépôts les plus populaires sur la plateforme GitHub. Jugez vous même :
Si certains s’amusent de cette nouvelle possibilité de se glisser dans la peau d’une célébrité, d’autres tirent la sonnette d’alarme. A juste titre : le risque d’utilisation malveillante est en effet bien réel : en février dernier, des escrocs ont déjà réussi à dérober 25 millions de dollars à Hong Kong en se faisant passer pour le directeur financier d’une entreprise lors d’un appel vidéo truqué.
Une technologie qui combine plusieurs innovations
Techniquement, Deep-Live-Cam repose sur une combinaison de modèles d’IA existants. Le logiciel détecte d’abord les visages dans l’image source et la vidéo cible. Il utilise ensuite un modèle baptisé « inswapper » pour effectuer l’échange de visage à proprement parler. Enfin, un autre modèle nommé GFPGAN se charge d’améliorer la qualité du résultat en corrigeant les éventuels artefacts.
L’efficacité du système repose notamment sur la capacité du modèle inswapper à deviner l’apparence d’un visage sous différents angles et expressions. Cela est rendu possible grâce à un entraînement sur des millions d’images de visages capturés dans diverses conditions.
Vers une démocratisation inquiétante de genre d’outil ?
Deep-Live-Cam est loin d’être le seul projet de ce type. D’autres outils comme facefusion font grosso modo la même chose avec une autre UI. Si leur installation reste pour l’instant relativement complexe, gageons que des versions « grand public » ne tarderont pas à voir le jour.
Cette démocratisation soulève de nombreuses questions éthiques et sécuritaires. Au-delà des célébrités, n’importe qui pourrait potentiellement se faire usurper son identité lors d’un appel vidéo. Certains évoquent déjà la nécessité d’établir des « mots de passe » entre proches pour s’assurer de l’identité de son interlocuteur.
Face à ces risques, il paraît urgent de réfléchir à un encadrement de ces technologies avant qu’elles ne deviennent trop facilement accessibles. La course entre créateurs de deepfakes et développeurs de systèmes de détection ne fait que commencer.
