Il y a cette histoire incroyable sur la façon dont l’un des plus grands fonds de guerre pour la politique de l’IA a été financé, et tout commence avec une pièce dog coin et un placard au Canada.

En 2021, les créateurs de Shiba Inu ont simplement envoyé une énorme pile de jetons SHIB au portefeuille de Vitalik Buterin sans demander la permission. Un mouvement classique - mettre « Vitalik possède la moitié de notre approvisionnement » dans les matériaux marketing et espérer que cette association vous mènera à la célébrité de Dogecoin. Sauf que les jetons ont en fait fortement augmenté. On parle de plus de $1 milliards en valeur comptable.

Buterin voulait sortir avant que tout ne s’effondre. Il a récemment décrit le processus - appelant sa belle-mère au Canada, lui demandant de fouiller dans son placard, lui lisant un numéro de 78 chiffres à combiner avec un autre code de 78 chiffres provenant de son sac à dos. Franchement absurde. Il a réussi à vendre une partie contre de l’ETH et a fait don de $50 millions à GiveWell, mais il détenait encore d’importantes quantités de SHIB.

Il a divisé ce qui restait en deux. Une moitié est allée à CryptoRelief pour l’infrastructure médicale en Inde et ses propres recherches Balvi. L’autre moitié est allée à l’Institut du Futur de la Vie, une organisation travaillant sur les risques existentiels liés à l’IA, la biotechnologie et les armes nucléaires. FLI lui avait présenté une feuille de route solide couvrant les principaux risques ainsi que des initiatives pour la paix. Maiserin pensait qu’ils liquideraient peut-être entre 10 et 25 millions de dollars étant donné la faible liquidité de SHIB. Au lieu de cela, FLI a liquidé environ $500 millions de leur moitié. CryptoRelief a fait des chiffres similaires. Une pièce meme que personne ne prenait au sérieux a créé un événement philanthropique valant un milliard de dollars.

Mais voici où ça devient intéressant. FLI a effectué un pivot interne et s’est tourné vers une campagne politique et culturelle agressive sur l’IA comme stratégie principale. Complètement différent de l’approche initiale que Buterin attendait.

Ce pivot est la raison pour laquelle Buterin en a parlé récemment. Sa préoccupation est simple - une action politique coordonnée à grande échelle avec d’énormes fonds tend à créer des conséquences inattendues, des réactions négatives, et des solutions qui finissent par être à la fois autoritaires et fragiles, même si ce n’était pas l’intention initiale.

Il a souligné l’approche de biosécurité de FLI comme étude de cas. Ils ont essayé d’intégrer des garde-fous dans les modèles d’IA pour qu’ils refusent les sorties dangereuses. Cela semble bien en théorie, mais Buterin a qualifié cela de « très fragile » - les jailbreaks et les solutions de fine-tuning rendent ces restrictions faciles à contourner. La conclusion logique de cette pensée devient « interdisons l’IA open-source », ce qui mène ensuite à « soutenons une seule entreprise d’IA bienveillante pour dominer mondialement et empêchons les autres d’atteindre ce niveau ». Ces stratégies se retournent violemment contre vous et font du reste du monde votre ennemi.

Il y a aussi un problème structurel avec les approches axées sur la régulation. Lorsque les gouvernements restreignent les technologies dangereuses, les organisations de sécurité nationale sont exemptées - et ces mêmes organisations font souvent partie du risque elles-mêmes. Regardez les programmes de fuite en laboratoire gouvernementaux.

Buterin a mentionné qu’il était encouragé par certains travaux récents de FLI, notamment une déclaration « IA pro-humaine » qui rassemble conservateurs, progressistes, libertariens et différentes régions. Il a aussi noté qu’ils étudient les problèmes de concentration du pouvoir.

Mais le message principal est clair. Un don non planifié provenant de jetons qu’il ne voulait pas a financé une organisation qui s’est éloignée de ses convictions, et maintenant ils déploient des centaines de millions de dollars de manière qui le mettent mal à l’aise. Il avait déjà exprimé ses préoccupations à FLI à plusieurs reprises avant de rendre l’affaire publique.

C’est une fenêtre fascinante sur la façon dont les tokens inu sont accidentellement devenus un acteur majeur dans les débats sur la politique de l’IA, et sur les complications qui surgissent lorsque des financements massifs changent soudainement la direction d’une organisation.