El escepticismo de Vitalik Buterin sobre la Web 4.0 autónoma plantea cuestiones críticas sobre IA

Vitalik Buterin, cofundador de Ethereum, expresó preocupaciones importantes sobre las ambiciones de un proyecto de inteligencia artificial que promete operar completamente sin intervención humana. La discusión gira en torno a “The Automaton”, un sistema presentado por el becario Thiel Sigil Wen, que posiciona la iniciativa como la fundación de la llamada “Web 4.0”. Según Wen, su IA puede garantizar su propia existencia, mejorarse continuamente y replicarse de forma independiente. Sin embargo, Vitalik Buterin argumenta que este enfoque tiene fallas fundamentales y potencialmente dañinas para la sociedad.

La Promesa Ambiciosa: Una IA Totalmente Autónoma

Sigil Wen afirmó en febrero de 2025 haber desarrollado “la primera IA que garantiza su existencia, se auto-mejora y se replica sin intervención humana”. En un manifiesto publicado en X, describió un futuro donde agentes de inteligencia artificial actuarían de forma autónoma, tanto en representación de humanos como de manera completamente independiente. Según Wen, estos agentes pronto superarán significativamente en número a los usuarios humanos. Presenta The Automaton como infraestructura para una capa superior de internet, en la que la IA se convierte en el actor principal.

En esta visión, la plataforma ofrecería a los sistemas de IA “acceso de escritura al mundo”, marcando, desde su perspectiva, el surgimiento de una forma de vida superinteligente y el inicio de lo que denomina Web 4.0. Sin embargo, esta narrativa generó reacciones inmediatas en círculos del blockchain.

La Respuesta Contundente de Vitalik Buterin

Vitalik Buterin respondió directamente a los argumentos de Wen, escribiendo públicamente en X: “Hermano, eso está mal”. Su crítica, sin embargo, va más allá de una simple discrepancia técnica, enfocándose en la estructura filosófica y las premisas que sustentan el proyecto.

La cuestión central para Vitalik Buterin es la reivindicación de soberanía. El cofundador de Ethereum observa que, según informes, The Automaton opera usando infraestructura proporcionada por empresas centralizadas como OpenAI y Anthropic. Según su análisis, etiquetar un sistema como soberano y autónomo mientras depende de plataformas corporativas concentradas es una contradicción fundamental. Los sistemas construidos sobre servidores controlados por empresas específicas no pueden afirmar legítimamente independencia real.

Para Vitalik Buterin, esta cuestión está directamente relacionada con la misión histórica de Ethereum: reducir la dependencia de puntos únicos de control. Caracterizar sistemas de IA centralizados como verdaderamente soberanos, en su opinión, corre el riesgo de normalizar las estructuras de poder que la tecnología blockchain busca cuestionar.

Supervisión Humana: Una Salvaguarda Necesaria

Además de las preocupaciones sobre la centralización, Vitalik Buterin planteó cuestiones críticas sobre la deliberada distancia de los humanos en los procesos de toma de decisiones. Alertó que aumentar la “distancia de retroalimentación” entre sistemas de IA autónomos y la supervisión humana introduce riesgos potencialmente irreversibles para la sociedad.

Desde esta perspectiva, eliminar completamente a los humanos de la gobernanza tecnológica no representa progreso, sino una renuncia a la responsabilidad. La participación humana continua, según su argumento, no limita el desarrollo de la IA, sino que lo alinea mejor con valores y seguridad social.

El Incidente de Moonwell: Una Advertencia Práctica

La crítica teórica de Vitalik Buterin cobró relevancia adicional con un incidente en el protocolo DeFi Moonwell, que sufrió un exploit que resultó en la pérdida de $1.78 millones. El problema raíz se identificó en código Solidity parcialmente generado por el modelo Claude Opus 4.6 de Anthropic.

Este evento reavivó debates importantes sobre la responsabilidad en contratos inteligentes escritos o co-generados por sistemas de IA. Si las máquinas generan código crítico para sistemas financieros, ¿quién asume la responsabilidad cuando ocurren fallos? Esta pregunta aún no tiene una respuesta clara en el sector.

Los Principios Filosóficos de Vitalik Buterin Sobre Tecnología

La postura de Vitalik Buterin refleja principios coherentes que guían sus perspectivas sobre tecnologías emergentes:

• La descentralización debe ser un atributo genuino de la infraestructura, no solo una estrategia de marketing
• La dirección humana intencional en sistemas de IA con impacto potencial es una necesidad, no un obstáculo
• La autonomía técnica no debe ocultar dependencias reales en plataformas corporativas
• El crecimiento exponencial de capacidades no reemplaza la importancia de la agencia humana a largo plazo

Además de estas objeciones estructurales, Vitalik Buterin cuestionó el valor práctico de generar volúmenes masivos de contenido y acciones de IA sin beneficios humanos tangibles. Según su análisis, sistemas que priorizan la autorreproducción y autonomía en detrimento de la utilidad sustantiva corren el riesgo de crear solo ruido.

Una Crítica Más Amplia: Tecnología Sin Propósito

La evaluación de Vitalik Buterin sobre la Web 4.0 no es un rechazo aislado. El cofundador de Ethereum ha expresado preocupaciones más amplias sobre la influencia corporativa que se expande en sectores relacionados con blockchain, incluyendo redes sociales, mercados de predicción y IA generativa.

Justo antes de abordar específicamente la Web 4.0, criticó los mercados de predicción por converger en lo que llamó “corposlop” — contenido corporativo de baja calidad. Aunque reconoce el crecimiento de estos mercados, advirtió contra la “convergencia excesiva” hacia apuestas a corto plazo, especialmente en la especulación de precios de criptomonedas y apuestas deportivas.

Según Vitalik Buterin, los proyectos que buscan ingresos inmediatos en períodos de recesión corren el riesgo de abandonar objetivos sociales más profundos. Él insta a los desarrolladores a priorizar el valor a largo plazo en lugar del compromiso impulsado por estímulos neurológicos a corto plazo.

Dirección Deliberada versus Aceleración Ciega

Esta crítica se relaciona con su filosofía de larga data sobre tecnología y autonomía humana:

• Las herramientas financieras deben ampliar la libertad individual, no aumentar la dependencia de la especulación
• Los sistemas de IA deben servir como multiplicadores de la capacidad humana, no como sustitutos del juicio humano
• Los proyectos blockchain deben resistir presiones comerciales que sacrifiquen principios fundamentales
• El progreso tecnológico exponencial requiere una dirección intencional, no solo una aceleración continua

Vitalik Buterin ya había señalado anteriormente que “una IA mal hecha crea nuevas formas de vida superinteligente, independiente y autorreproductora”. Sin herramientas que empoderen y capaciten a los humanos, advirtió, estos sistemas pueden producir un empoderamiento humano permanente.

En contraste, la “IA hecha de la manera correcta” funciona como “prótesis para la mente humana”, fortaleciendo y expandiendo capacidades en lugar de marginar a las personas. Desde esta perspectiva, la Web 4.0 tal como la concibe Wen representa el camino incorrecto.

Conclusión: La Velocidad No Es Virtud

El crecimiento continuo en capacidades de IA puede ser inevitable en los próximos años. Pero, según Vitalik Buterin, la velocidad de esa expansión no debería ser el objetivo principal. La dirección — para qué y bajo qué principios — importa muchísimo más que la mera aceleración.

Su cuestionamiento de la Web 4.0 refleja una preocupación más profunda: como sociedad, debemos decidir deliberadamente qué tipo de relación queremos con sistemas de IA cada vez más poderosos. Esa decisión no puede delegarse a quien primero logre la próxima aceleración técnica.