Cloudflare $NET 认为 AI 代理可能会使 CPU 需求增加 20 倍


$AMD $INTC $ARM
公司辩称,如果每个工人运行多个代理,使用当今的云模型,AI 代理可能会造成庞大的 CPU/服务器基础设施问题
数学计算:
美国:
⏩ 1 亿知识工作者 × 1 个代理 / 每 CPU 大约 10 个代理 = 1000 万 CPU
全球:
⏩ 10 亿知识工作者 × 10 个代理 / 每 CPU 大约 10 个代理 = 10 亿 CPU
Cloudflare 将此与当前全球每年大约 3500 万到 4500 万的服务器 CPU 产量进行比较,暗示当前方法可能需要大约 20 倍的年度 CPU 产量
$NET 正在推介 Agent Cloud 作为解决方案
它的工作原理如下:
1. 动态工人代替完整容器
代理可以按需启动,空闲时放回冷存储,避免每个代理都运行一个繁重的常驻容器
2. 持久对象用于状态
代理需要存储任务、文件、会话、进度和工具输出的内存/状态。持久对象为每个代理/应用提供一个带有本地 SQLite 支持存储的有状态对象
3. 长时间运行的工作流程
代理可能会运行数分钟、数小时或数天,等待批准、重试、外部事件或预定步骤。动态工作流程允许这些过程在步骤之间休眠,而不是持续消耗计算资源
4. Project Think / 代理 SDK
Project Think 添加了代理特定的原语,如持久执行、崩溃恢复、检查点、子代理、持久会话和沙箱代码执行
5. 仅在需要完整计算机时使用沙箱
对于需要 bash、git、文件系统、浏览器或任意二进制文件的编码代理或任务,Cloudflare 仍提供沙箱容器。但其理念是仅在必要时使用,而不是作为每个代理的默认运行环境
查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论