Technologie

Les chercheurs en IA de Facebook ont trouvé un nouveau moyen pour identifier les deepfakes

Dans la multitude de visages ci-dessus, certains sont vrais et d’autres sont des deepfakes, c’est-à-dire des images manipulées par de l’intelligence artificielle. Mais comment les différencier ? Des chercheurs du laboratoire Facebook AI Research (FAIR) se sont associés à l’Université d’État du Michigan (MSU) pour concevoir une nouvelle approche dans la détection.

Des solutions existent déjà, mais elles permettent de détecter uniquement des deepfakes conçus à partir de modèles que l’IA a déjà rencontrés lors de sa phase d’apprentissage. La méthode de Facebook permet de littéralement disséquer l’image grâce à une technique de rétro-ingénierie. Pour cela, les images passent par un réseau qui estime des caractéristiques spécifiques, soit l’équivalent d’empreintes digitales (Fingerprint estimation network). Celles-ci sont des motifs subtils mais uniques, laissés sur chaque image produite par un modèle génératif particulier. Le réseau d’estimation s’appuie sur les propriétés d’une empreinte digitale, comprenant sa magnitude, sa nature répétitive, sa gamme de fréquences et sa réponse en fréquence symétrique.

En estimant ces empreintes digitales, il va être ensuite possible de prédire les caractéristiques – ou hyperparamètres – du modèle qui a servi à concevoir un ensemble de deepfakes. Et en retraçant les similitudes entre les modèles d’un ensemble de deepfakes, il est possible de savoir si une série d’images provient de la même source.

Pour tester cette méthode, l’équipe de recherche de MSU a rassemblé un ensemble 100 000 deepfakes générés à partir de 100 modèles génératifs accessibles au public.

Xiaoming Liu, professeur d’informatique à la MSU qui a participé au projet précise dans un communiqué : « Notre méthode facilitera la détection et le traçage des deepfakes dans des environnements réels où l’image deepfake elle-même est souvent la seule information avec laquelle les systèmes de détection doivent travailler. » 

A découvrir aussi en vidéo :

Rappelons qu’il existe d’autres techniques pour détecter les deepfakes. Par exemple, des chercheurs de l’Université d’État de New York peuvent les déceler grâce aux réflexions de la lumière dans la rétine des yeux du sujet. D’autres chercheurs ont pu débusquer des deepfakes grâce aux mouvements incohérents du visage. Ces outils sont plus que nécessaires pour lutter contre ces photos et ces vidéos truquées qui contribuent de plus en plus à la désinformation et au cyberharcèlement.

Source : Facebook


Source link

Afficher plus

Articles similaires

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Bouton retour en haut de la page