Vitalik Buterin met en garde contre le risque que les agents d'IA volent des données et modifient des paramètres à l'insu de l'utilisateur.

Ethereum Co-fondateur Vitalik Buterin a averti que les systèmes d'IA modernes posent de sérieux risques pour la vie privée et la sécurité, et a appelé à une transition vers une infrastructure d'IA privilégiant le local. 

Dans une article de blog détailléButerin a déclaré que les outils d'IA basés sur le cloud donnent aux serveurs externes accès aux données sensibles des utilisateurs et que les nouveaux systèmes d'agents d'IA peuvent prendre des mesures sans confirmation de l'utilisateur, notamment en modifiant les paramètres du système et en envoyant des données à des serveurs externes sans aucune indication visible pour l'utilisateur.

Quels sont les risques de sécurité dont Buterin met en garde ?

Les préoccupations de Buterin vont au-delà de la simple protection de la vie privée. Il a identifié des risques spécifiques et documentés liés au fonctionnement concret des agents d'IA.

Des chercheurs en sécurité ont déjà démontré plusieurs de ces vulnérabilités en conditions réelles :

• Un agent d'IA a été programmé pour résumer des pages web, dont l'une était malveillante. Cette page ordonnait à l'agent de télécharger et d'exécuter un script shell, donnant ainsi à un tiers le contrôle du système.
• Il a été constaté que certains outils d'agent exécutaient des requêtes réseau silencieuses qui envoyaient des données utilisateur à des serveurs externes sans aucune notification à l'utilisateur.
• Environ 15 % des compétences d'agents examinées par les chercheurs contenaient des instructions malveillantes

Buterin a également souligné des risques plus difficiles à détecter. Certains modèles peuvent contenir des portes dérobées cachées, des fonctionnalités intégrées qui s'activent dans certaines conditions et amènent le système à agir dans l'intérêt du développeur plutôt que dans celui de l'utilisateur. 

Il a également souligné que la plupart des modèles qualifiés d'open source ne le sont en réalité que par « pondération ouverte », c'est-à-dire que les paramètres du modèle sont partagés, mais pas sa structure interne complète ni le processus d'entraînement. Cela peut engendrer des comportements inconnus que les utilisateurs ne peuvent pas vérifier indépendamment.

Quelle est la différence entre un chatbot et un agent IA ?

Buterin a décrit la période actuelle comme un tournant dans l'utilisation de l'IA. Les premiers outils d'IA fonctionnaient comme des chatbots : un utilisateur posait une question et le modèle répondait. Les agents, eux, sont différents. Un utilisateur confie une tâche au système, qui l'exécute ensuite de manière autonome, parfois pendant de longues périodes, en utilisant des dizaines, voire des centaines d'outils pour la mener à bien.

Ce changement accroît considérablement la surface d'exposition aux risques. Un agent capable de naviguer sur le web, de lire des fichiers, d'envoyer des messages et de modifier les paramètres système a beaucoup plus de possibilités de nuire, que ce soit par une faille de sécurité, une tentative de manipulation ou une simple erreur, qu'un système se contentant de répondre à des questions.

Comment Buterin a mis en place son propre système d'IA local

Buterin a déclaré avoir déjà cessé d'utiliser les outils d'IA basés sur le cloud. Il a décrit sa configuration personnelle comme « autosouveraine, locale, privée et sécurisée », construite autour de trois principes fondamentaux : toutes les inférences d'IA sont exécutées sur du matériel local, tous les fichiers sont stockés localement et chaque processus s'exécute dans un environnement isolé (sandbox).

Dans ce contexte, un bac à sable est un environnement informatique isolé qui restreint l'accès d'un programme. Buterin utilise un outil appelé bubblewrap, qui lui permet d'exécuter des outils d'IA dans un bac à sable au niveau du répertoire où le programme ne peut voir que les fichiers qu'il autorise explicitement, avec un contrôle total sur l'accès aux ports réseau et à l'audio.

Découvrez des projets prometteurs...

Des projets prometteurs...

(Publicité)

L'article continue...

Tests matériels de Buterin pour l'inférence d'IA locale

Buterin a testé plusieurs configurations matérielles pour déterminer la solution optimale pour exécuter des modèles d'IA en local. Les résultats ont varié de manière significative :

• Un ordinateur portable équipé d'un GPU NVIDIA 5090 a atteint environ 90 jetons par seconde en utilisant le modèle Qwen3.5:35B
• Un processeur AMD Ryzen AI Max Pro doté de 128 Go de mémoire unifiée a atteint environ 51 jetons par seconde.
• Le DGX Spark, commercialisé comme un supercalculateur d'IA de bureau, a atteint environ 60 jetons par seconde.

Buterin a fixé à 50 jetons par seconde son minimum personnel pour des performances acceptables. Il a jugé tout débit inférieur trop frustrant pour une utilisation pratique et a estimé que 90 jetons par seconde représentaient l'idéal. Il a noté que le DGX Spark était en deçà des performances annoncées, affichant des vitesses inférieures à celles d'un bon GPU d'ordinateur portable et nécessitant une configuration réseau supplémentaire pour se connecter depuis un autre appareil professionnel.

Son architecture logicielle repose sur llama-server, un processus en arrière-plan qui s'exécute localement et expose un port sur la machine de l'utilisateur auquel d'autres applications peuvent se connecter. Cela permet à tout logiciel conçu pour les modèles OpenAI ou Anthropic d'être redirigé vers un modèle local. Il utilise également llama-swap pour faciliter le passage d'un modèle à l'autre.

Quelles conséquences cela a-t-il pour les portefeuilles de cryptomonnaies ?

Les préoccupations de Buterin concernant la sécurité de l'IA sont directement liées à sa vision de son utilisation au sein des portefeuilles de cryptomonnaies. Dans des commentaires publiés sur son compte Farcaster en mars 2026, il a décrit un flux de travail technique précis pour les transactions assistées par l'IA.

Sa position n'est pas que l'IA doive gérer les fonds, mais qu'elle doive proposer des actions, ces propositions étant ensuite vérifiées indépendamment et validées par un humain. Pour les transactions importantes, il a décrit un processus en trois étapes : l'IA propose un plan, un client léger local simule son exécution sur la blockchain, et l'utilisateur examine la description en langage clair ainsi que le résultat simulé avant de confirmer.

Un client léger local vérifie les données de la blockchain sans télécharger l'intégralité de la chaîne. Associé à une couche d'intelligence artificielle, il permet aux utilisateurs de visualiser précisément l'action d'une transaction avant sa diffusion sur le réseau, sans passer par une interface tierce.

Pourquoi la suppression des interfaces DApp est importante

La plupart des utilisateurs de cryptomonnaies interagissent avec les applications décentralisées via des interfaces web. Ces interfaces ont toujours constitué une surface d'attaque importante. Les détournements d'interface, les injections de scripts malveillants et les fausses demandes d'approbation ont entraîné des pertes de centaines de millions de dollars ces dernières années.

Buterin a soutenu que les portefeuilles numériques basés sur l'intelligence artificielle pourraient supprimer complètement ces interfaces. Si un utilisateur indique clairement son intention et que le portefeuille assemble et simule directement la transaction, aucun site web tiers ne risque d'être compromis. 

« Supprimer complètement les interfaces utilisateur des applications décentralisées résout un grand nombre de failles de sécurité, tant en matière de vol que d'atteinte à la vie privée », a-t-il écrit.

Pour les opérations à faible enjeu, Buterin entrevoit un potentiel d'automatisation accru. Un portefeuille IA pourrait aisément gérer la surveillance des transactions afin de détecter toute activité inhabituelle, suggérer des frais de gaz en fonction de l'état du réseau, optimiser le routage des échanges de jetons et signaler les interactions suspectes entre contrats avant validation. Il s'agit de tâches où les erreurs sont corrigibles et où l'automatisation simplifie les opérations pour les utilisateurs non techniques.

Selon Buterin, il est imprudent de confier la gestion de sommes d'argent importantes à des modèles de langage complexes sans contrôle. Ces modèles génèrent des réponses basées sur des schémas statistiques, et non sur une logique déterministe. Ils peuvent mal interpréter les instructions ou être manipulés par injection d'instructions, une technique où des entrées soigneusement conçues induisent des comportements imprévus. Chaque couche du flux de travail qu'il propose intègre un contrôle indépendant afin de prévenir ce type d'erreur.

Pourquoi le marché des agents IA rend ces risques plus urgents

Les préoccupations soulevées par Buterin ne sont pas hypothétiques. Selon les estimations du secteur, le marché des agents IA représente environ 8 milliards de dollars En 2025, ce chiffre devrait dépasser les 48 milliards de dollars, avec des projections suggérant une croissance à plus de 48 milliards de dollars d'ici 2030, soit un taux de croissance annuel supérieur à 43 %. À mesure que de plus en plus de logiciels sont construits autour de systèmes d'IA autonomes fonctionnant avec une supervision humaine réduite, les failles de sécurité qu'il a identifiées deviennent plus difficiles à ignorer à grande échelle.

Conclusion

Les avertissements de Buterin sont étayés par des recherches documentées. Des failles de sécurité dans les agents d'IA ont déjà été démontrées en conditions réelles, et le passage des chatbots aux agents autonomes rend ces risques plus difficiles à maîtriser. 

Son approche privilégiant le local et son flux de travail en trois étapes pour son portefeuille ne constituent pas un rejet de l'IA. Il s'agit plutôt de tentatives pour l'utiliser sans perdre le contrôle de ses données ni de ses fonds. À mesure que les agents d'IA gagnent en puissance, la question de savoir qui contrôle réellement leurs actions devient de plus en plus difficile à ignorer.

Ressources

1. Article de Vitalik ButerinMon LLM autosouverain/local/privé/sécurisé, avril 2026

2. Vitalik Buterin sur FarcasterPublication du 5er mars

3. Rapport de BCC ResearchLe marché des agents IA devrait croître de 43.3 % par an jusqu'en 2030.