Article publié sur : https://www.geekzone.fr/2020/08/06/fawkes-mettez-des-batons-dans-les-roues-de-la-reconnaissance-faciale/
De nos jours, lorsqu’on met en ligne une photo de sa bouille, il y a de fortes chances pour qu’elle finisse dans la base de données d’une société de « data mining » comme Clearview AI, aux intentions parfois douteuses. Heureusement, il existe désormais une parade : Fawkes. Développé par une équipe de scientifiques de l’Université de Chicago, et nommé de la…
7 « J'aime »
L’algo de cloaking étant fourni, n’y a t-il pas risque à ce que les algos d’IA soient rapidement mis à jour et que l’outil deviennent rapidement obsolète ?
l’Open Source n’a jamais utilisé la sécurité par l’obscurantisme. Je n’ai pas d’exemple où des sociétés privées auraient bien profité de l’ouverture d’un Source pour bloquer un programme les gênant.
Et dans le cas de Fawkes :
On parle de deep learning pour le data mining, l’algo ne peux pas être codé en dur côté société de data mining pour prendre en compte exactement les altérations de Fawkes, et si c’est le cas j’imagine qu’on ne serait plus dans l’apprentissage qui est indispensable mais dans un traitement bête et méchant qui rendrait tout traitement inadapté face à la nouveauté (le profil a pour la première fois des lunettes ou des moustaches ou est chauve).
Avec le deep, ce qui fait la qualité de ton IA c’est la qualité de ta base d’apprentissage (pour faire simple). On peut très bien entraîner un réseau pour faire une correspondance Fawkes <=> réel… pas sûr que ce soit intéressant vu qu’à chaque variation trop importante de Fawkes ( ou équivalent ) il faudrait recommencer le trainning.
Par contre avec un réseau « encodeur », Fawkes ou non, ça ne changera rien pour sortir les caractéristiques de la photo ( un peu comme la première étape du deepfake) qui peuvent être suffisantes pour de la reconnaissance.
Ce sujet a été automatiquement fermé après 730 jours. Aucune réponse n’est permise dorénavant.