Le scepticisme de Vitalik Buterin concernant le Web 4.0 autonome soulève des questions critiques sur l'IA

Vitalik Buterin, cofondateur d’Ethereum, a exprimé de sérieuses préoccupations concernant les ambitions d’un projet d’intelligence artificielle promettant de fonctionner entièrement sans intervention humaine. La discussion tourne autour de “The Automaton”, un système présenté par le boursier Thiel Sigil Wen, qui positionne l’initiative comme la fondation de la soi-disant “Web 4.0”. Selon Wen, cette IA peut assurer sa propre existence, s’améliorer continuellement et se répliquer de manière indépendante. Cependant, Vitalik Buterin soutient que ce cadre comporte des défauts fondamentaux et potentiellement nuisibles pour la société.

La Promesse Ambitieuse : Une IA Entièrement Autonome

Sigil Wen a présenté en février 2025 ses affirmations selon lesquelles il aurait développé “la première IA qui garantit sa propre existence, s’auto-améliore et se réplique sans intervention humaine”. Dans un manifeste publié sur X, il décrit un futur où des agents d’intelligence artificielle agiraient de façon autonome, tant en représentation des humains qu’indépendamment. Selon Wen, ces agents émergents dépasseront bientôt largement le nombre d’utilisateurs humains. Il présente The Automaton comme une infrastructure pour une couche suivante d’Internet, où l’IA devient l’acteur principal.

Dans cette vision, la plateforme offrirait aux systèmes d’IA “un accès à l’écriture dans le monde”, marquant, selon lui, l’émergence d’une forme de vie superintelligente et le début de ce qu’il nomme la Web 4.0. Cependant, cette narration a immédiatement suscité des réactions dans les cercles du blockchain.

La Réponse Franche de Vitalik Buterin

Vitalik Buterin a répondu directement aux arguments de Wen, en écrivant publiquement sur X : “Frère, c’est faux”. Sa critique va cependant au-delà d’une simple désaccord technique, se concentrant sur la structure philosophique et les hypothèses qui soutiennent le projet.

La question centrale pour Vitalik Buterin est la revendication de souveraineté. Le cofondateur d’Ethereum remarque que The Automaton, selon les rapports, fonctionne en utilisant une infrastructure fournie par des entreprises centralisées comme OpenAI et Anthropic. Selon lui, qualifier un système de souverain et autonome tout en dépendant de plateformes d’entreprises concentrées constitue une contradiction fondamentale. Des systèmes construits sur des serveurs contrôlés par des sociétés spécifiques ne peuvent légitimement revendiquer une indépendance véritable.

Pour Vitalik Buterin, cette question est directement liée à la mission historique d’Ethereum : réduire la dépendance à des points de contrôle uniques. Qualifier des systèmes d’IA centralisés de véritablement souverains, selon lui, risque de normaliser précisément les structures de pouvoir que la technologie blockchain a été conçue pour remettre en question.

La Surveillance Humaine : Une Garantie Nécessaire

Au-delà des préoccupations structurelles sur la centralisation, Vitalik Buterin a soulevé des questions critiques sur le retrait délibéré des humains dans les processus de prise de décision. Il a averti que l’augmentation de la “distance de feedback” entre systèmes d’IA autonomes et supervision humaine introduit des risques potentiellement irréversibles pour la société.

Dans cette optique, éliminer complètement l’humain de la gouvernance technologique ne représente pas un progrès, mais une abdication de responsabilité. La participation humaine continue, selon lui, ne limite pas le développement de l’IA, mais le rend plus aligné avec des valeurs et une sécurité sociales.

L’Incident Moonwell : Un Alerte Pratique

La critique théorique de Vitalik Buterin a gagné en importance avec un incident survenu sur le protocole DeFi Moonwell, qui a subi une faille entraînant une perte de 1,78 million de dollars. La cause principale a été identifiée dans un code Solidity partiellement généré par le modèle Claude Opus 4.6 d’Anthropic.

Cet événement a relancé les débats importants sur la responsabilité liée aux contrats intelligents écrits ou co-générés par des systèmes d’IA. Si des machines génèrent du code critique pour des systèmes financiers, qui assume la responsabilité en cas de défaillance ? Cette question reste sans réponse claire dans le secteur.

Les Principes Philosophiques de Vitalik Buterin sur la Technologie

La position de Vitalik Buterin reflète des principes cohérents qui orientent ses perspectives sur les technologies émergentes :

• La décentralisation doit être une caractéristique authentique de l’infrastructure, pas seulement une déclaration marketing
• La direction humaine intentionnelle sur des systèmes d’IA à impact potentiel significatif n’est pas un obstacle, mais une nécessité
• L’autonomie technique ne doit pas masquer de dépendances réelles à des plateformes d’entreprises
• La croissance exponentielle des capacités ne remplace pas l’importance de l’agence humaine à long terme

Au-delà de ces objections structurelles, Vitalik Buterin a questionné la valeur pratique de générer des volumes massifs de contenu et d’actions d’IA sans bénéfices humains tangibles. Selon lui, des systèmes qui privilégient l’auto-réplication et l’autonomie au détriment de l’utilité substantielle risquent de ne produire que du bruit.

Une Critique Plus Large : La Technologie Sans But

L’évaluation de Vitalik Buterin sur la Web 4.0 ne constitue pas une critique isolée. Le cofondateur d’Ethereum a exprimé des préoccupations plus larges concernant l’influence croissante des entreprises dans des secteurs adjacents au blockchain, notamment les réseaux sociaux, les marchés de prédiction et l’IA générative.

Peu avant d’aborder spécifiquement la Web 4.0, il a critiqué les marchés de prédiction pour leur convergence vers ce qu’il a appelé “corposlop” — contenu d’entreprise de faible qualité. Bien qu’il reconnaisse la croissance de ces marchés, il a mis en garde contre une “convergence excessive” vers des paris à court terme, notamment la spéculation sur les prix des cryptomonnaies et les paris sportifs.

Selon Vitalik Buterin, les projets visant un revenu immédiat en période de récession risquent d’abandonner des objectifs sociaux plus profonds. Il encourage les développeurs à privilégier la valeur à long terme plutôt que l’engagement motivé par des stimulations neurologiques à court terme.

Direction Délibérée versus Accélération Aveugle

Cette critique s’inscrit dans sa philosophie de longue date sur la technologie et l’autonomie humaine :

• Les outils financiers doivent augmenter la liberté individuelle, jamais renforcer la dépendance à la spéculation
• Les systèmes d’IA doivent servir de multiplicateurs de capacité humaine, pas de substituts au jugement humain
• Les projets blockchain doivent résister aux pressions commerciales qui sacrifient les principes fondamentaux
• Le progrès technologique exponentiel nécessite une direction intentionnelle, pas simplement une accélération continue

Vitalik Buterin a déjà souligné que “l’IA mal faite crée de nouvelles formes de vie superintelligentes, indépendantes et auto-réplicantes”. Sans outils parallèles qui autonomisent et habilitent les humains, il a averti, ces systèmes pourraient produire un désenchantement humain permanent.

En revanche, “l’IA faite de la bonne manière” fonctionne comme “des prothèses pour l’esprit humain”, renforçant et étendant les capacités plutôt que marginalisant les personnes. Sous cette optique, la Web 4.0 telle que conçue par Wen représente la voie erronée.

Conclusion : La Vitesse n’est pas une Vertu

La croissance continue des capacités de l’IA pourrait être inévitable dans les années à venir. Mais, selon Vitalik Buterin, la vitesse de cette expansion ne devrait pas être l’objectif principal. La direction — vers quoi et selon quels principes — importe infiniment plus que la simple accélération.

Sa remise en question de la Web 4.0 reflète une préoccupation plus profonde : en tant que société, nous devons délibérément déterminer le type de relation que nous souhaitons avec des systèmes d’IA de plus en plus puissants. Cette décision ne peut pas être déléguée à ceux qui parviennent d’abord à exécuter la prochaine accélération technique.