Se protéger des IA qu'on ne choisit pas.
Les systèmes d'intelligence artificielle nous voient, nous reconnaissent, nous suivent et nous comptent, souvent sans qu'on le sache et sans qu'on l'ait choisi.
AI Camouflage explore des moyens simples de se protéger de ce regard automatique, sans jamais se cacher des autres : des objets et des motifs que chacun peut imprimer, porter, fabriquer.
Avec une direction : être invisible pour la machine, visible pour l'humain.
Valeurs
Tromper la machine, jamais l'humain
La cible est toujours un modèle d'Intelligence Artificielle. Un visage doit rester un visage, une plaque d'immatriculation doit rester lisible par un policier, une personne doit rester visible par une autre personne.
Rééquilibrer le pouvoir
Une IA ne devrait pas rendre impuissant celui qu'elle observe, évalue ou décide de classer.
AI Camouflage développe des moyens de se protéger contre des systèmes automatiques intrusifs, injustes ou imposés.
Ces mêmes techniques peuvent aussi révéler les failles de systèmes légitimes. Les maîtriser, c'est donc aussi aider les entreprises, les organisations publiques et les États à construire des IA plus robustes face aux attaques adversariales.
L'objectif n'est pas de rendre l'IA aveugle. C'est d'éviter qu'un seul côté détienne tout le pouvoir.
Méthode
La plupart des travaux présentés ici reposent sur les attaques adversariales, aussi appelées exemples contradictoires. Ce sont des modifications subtiles, souvent anodines ou presque invisibles, apportées à ce qu'un système d'IA reçoit en entrée, et qui suffisent à le faire se tromper.
Un motif imprimé sur un tissu, un cadre posé autour d'un objet, une texture appliquée sur une surface : rien de tout cela n'empêche un humain de comprendre ce qu'il regarde. Mais pour un modèle de vision entraîné à reconnaître un visage, une plaque ou une silhouette, ces détails peuvent tout changer. Là où l'humain voit un vêtement ordinaire, un modèle peut ne plus détecter de personne.
Et si on essayait ?
Vous voulez devenir moins visible aux machines ? Ou tester la robustesse de vos IA ?
Nous avons les premiers prototypes. Il nous manque des terrains pour les éprouver.
Tout commence par une conversation : yann.carbonne@proton.me