Les agents intelligents ont un besoin urgent d'identification, les zk-SNARKs offrent une solution.

Les zk-SNARKs (Zero-Knowledge Proofs) sont susceptibles de devenir un pilier de la nouvelle ère de l'IA de confiance et de l'identité numérique, offrant aux individus et aux organisations une manière d'interaction sécurisée et transparente, à travers les plateformes et les frontières.

C'est une époque “intéressante” pour l'IA et la confiance.

Actuellement, de plus en plus de sociétés d'investissement commencent à utiliser des agents IA pour examiner des rapports de recherche et des documents d'entreprise. Pendant ce temps, les humains sont contraints de fournir des données biométriques de plus en plus strictes, telles que des scans faciaux, des échantillons vocaux et des modèles de comportement, simplement pour prouver qu'ils ne sont pas des robots. Et une fois que ces données sont divulguées, elles peuvent être utilisées de manière malveillante par des robots alimentés par IA, se déguisant sous une identité hautement réaliste pour imiter de vraies personnes, contournant ainsi les systèmes mis en place pour les protéger. Cela nous plonge dans une étrange nouvelle course aux armements - plus les méthodes de vérification exigent des données approfondies, plus les dommages causés en cas de fuite sont graves. Alors, comment pouvons-nous vraiment confirmer qui (ou quoi) est l'objet de notre interaction ?

Exiger que les humains restent transparents tout en acceptant les opérations opaques des machines est illogique. Que ce soit pour les robots ou les utilisateurs en ligne, il est nécessaire de disposer de meilleures méthodes de vérification de l'identification. Pour résoudre ce problème, il ne suffit pas de collecter indéfiniment des données biométriques plus nombreuses et plus profondes, ni de créer une base de données centralisée (qui représente pour les hackers un « pot de miel »). Les zk-SNARKs nous montrent une voie, permettant à l'IA et aux humains de vérifier efficacement leur identité tout en protégeant leur propre sécurité.

Déficit de confiance qui entrave le développement

Le manque d'identité AI vérifiable engendre des risques de marché directs. Lorsque les agents AI peuvent se faire passer pour des humains, manipuler le marché ou effectuer des transactions non autorisées, les entreprises doivent naturellement faire preuve de prudence quant à la décision de déployer des systèmes automatisés à grande échelle. En réalité, les grands modèles de langage « ajustés » sur de petits ensembles de données pour améliorer les performances ont une probabilité de produire des sorties nuisibles 22 fois supérieure à celle des modèles de base ; et leur taux de réussite pour contourner les protections de sécurité et d'éthique du système (ce processus étant appelé « jailbreak ») augmente même à trois fois lorsqu'ils sont confrontés à des systèmes prêts pour la production. Sans une vérification d'identité fiable, chaque interaction AI constitue un pas de plus vers d'éventuelles vulnérabilités de sécurité.

La complexité de la question va bien au-delà. Ce n'est pas aussi simple et direct que de prévenir le déploiement d'agents intelligents illégaux par des acteurs malveillants, car nous ne faisons pas face à une seule interface d'IA. À l'avenir, de plus en plus d'agents IA autonomes, de plus en plus puissants, apparaîtront. Dans cet océan d'agents, comment pouvons-nous identifier avec précision qui nous interagissons ? Même les systèmes d'IA légitimes doivent disposer de certificats vérifiables pour participer à la nouvelle économie des agents. Par exemple, lorsque un robot IA effectue une transaction avec un autre robot, les deux parties doivent être en mesure de confirmer l'authenticité de l'identité de l'autre, l'étendue de l'autorisation d'opération et un cadre de responsabilité clair.

Dans cette équation, le côté humain fait également face à de nombreux problèmes. Les systèmes d'identification traditionnels exposent non seulement les utilisateurs à des risques de fuites massives de données, mais favorisent également une surveillance autoritaire, tout en permettant aux grandes entreprises de tirer des milliards de revenus en vendant des informations personnelles qui appartiennent aux utilisateurs - tout cela provient des utilisateurs eux-mêmes, sans qu'ils aient reçu le moindre dédommagement. Par conséquent, les gens ont instinctivement tendance à résister à partager davantage de données personnelles, alors que l'évolution des technologies de vérification continue d'exiger des informations personnelles plus profondes.

zk-SNARKs : le pont entre la vie privée et la responsabilité

Les zk-SNARKs offrent une solution à ce problème apparemment épineux. Les ZKPs permettent aux entités (qu'elles soient humaines ou intelligences artificielles) de vérifier des affirmations spécifiques sans exposer les données sous-jacentes, tout en ne révélant pas d'informations sensibles. Par exemple, un utilisateur peut prouver qu'il a plus de 21 ans sans divulguer sa date de naissance ; un agent AI peut prouver que ses données d'entraînement respectent des normes éthiques sans révéler d'algorithmes propriétaires ; les institutions financières peuvent vérifier que leurs clients respectent les exigences réglementaires sans avoir à stocker des informations personnelles qui pourraient être divulguées.

Pour les agents intelligents d'IA, les ZKPs peuvent établir les mécanismes de confiance profonds nécessaires, car ce que nous devons vérifier n'est pas seulement l'architecture technique, mais aussi les modèles de comportement, la responsabilité légale et la réputation sociale. Grâce aux ZKPs, ces déclarations de vérification peuvent être stockées sur la chaîne sous forme de graphiques de confiance vérifiables.

Nous pouvons le considérer comme une couche d'identification combinable opérant à travers des plateformes et des juridictions. Lorsque l'agent AI présente un certificat, il peut prouver que ses données d'entraînement respectent des normes éthiques, que les résultats sont audités et que toutes les actions sont liées à des entités humaines responsables, sans divulguer d'informations propriétaires.

Les ZKPs ont le potentiel de transformer complètement les modèles existants, nous permettant de nous authentifier sans avoir à divulguer des données sensibles, mais l'adoption de cette technologie reste lente. Cette technologie appartient encore à un domaine de niche, avec une faible sensibilisation des utilisateurs, et le cadre réglementaire correspondant n'est pas encore clair. Plus important encore, les entreprises qui tirent des profits de la collecte de données manquent de motivation pour adopter cette technologie. Cependant, cela n'a pas empêché des entreprises d'authentification plus flexibles de l'utiliser. Avec l'éclaircissement progressif des normes réglementaires et l'augmentation de la sensibilisation du public, les ZKPs devraient devenir le pilier d'une nouvelle ère d'IA de confiance et d'identité numérique — fournissant aux individus et aux organisations des moyens d'interaction sécurisés et transparents à travers les plateformes et les frontières.

Impact du marché : Déverrouiller l'économie des agents intelligents

L'IA générative crée chaque année des milliers de milliards de dollars de valeur pour l'économie mondiale, mais la majeure partie de cette valeur reste verrouillée en raison des obstacles à l'identification. Les raisons principales sont au nombre de trois : premièrement, les investisseurs institutionnels doivent compléter un examen de conformité KYC/AML strict avant d'investir dans des stratégies pilotées par l'IA ; deuxièmement, les entreprises exigent une identité d'agent vérifiable avant de permettre aux systèmes autonomes d'accéder à des infrastructures critiques ; troisièmement, les régulateurs doivent disposer d'un mécanisme de responsabilité solide avant d'approuver l'application de l'IA dans des domaines sensibles.

Le système d'identification basé sur les zk-SNARKs répond à toutes ces exigences tout en préservant les avantages de protection de la vie privée et d'autonomie sur lesquels reposent les systèmes décentralisés. En mettant en œuvre un mécanisme de divulgation sélective, il peut à la fois satisfaire aux exigences réglementaires et éviter la création de jeux de données personnels vulnérables. Grâce aux techniques de vérification cryptographique, il permet aux agents autonomes d'établir un environnement d'interaction sans confiance préalable ; tandis que le mécanisme de protection des droits des utilisateurs s'aligne naturellement sur les principes fondamentaux des nouvelles réglementations sur la protection des données telles que le RGPD et la loi californienne sur la vie privée.

Cette technologie contribue également à faire face à la crise de plus en plus grave de la falsification profonde. Lorsque chaque contenu peut être associé de manière cryptographique à un créateur vérifié sans révéler son identité réelle, nous pouvons efficacement freiner la propagation des informations erronées tout en protégeant la vie privée. Avec la frontière entre le contenu généré par l'IA et les réalisations humaines de plus en plus floue, ce mécanisme technique devient particulièrement important.

La route ZK

Bien que certaines personnes puissent soutenir que tout système d'identification est un pas vers l'autoritarisme - sans mécanisme d'identification des citoyens, aucune société ne pourra fonctionner. La réalité est que l'authentification d'identité est largement mise en œuvre, mais son efficacité laisse à désirer. Chaque fois que nous téléchargeons des documents pour répondre aux exigences KYC, que nous acceptons un scan de reconnaissance faciale, ou que nous soumettons des données personnelles pour vérifier notre âge, nous participons à des systèmes d'identité qui sont non seulement intrusifs, mais aussi présentant des risques de sécurité et inefficaces.

Les zk-SNARKs offrent une voie à suivre qui respecte pleinement la vie privée des individus tout en établissant la confiance nécessaire pour des activités économiques complexes. Cette technologie nous permet de construire des systèmes où les utilisateurs contrôlent réellement leurs données, et le processus de vérification ne dépend pas de moyens de surveillance, permettant des interactions sécurisées entre les humains et les agents d'IA tout en préservant leur autonomie respective.