SemiAnalysisの顧客向けレポートによると、8月17日、GoogleはAMDと協力し、次世代の第10世代TPU向け製品の開発を進めています。これは、カスタムAI ASICの設計におけるAMD初の本格的な関与となります。この提携の中核となる強みは、AMDのCPU知的財産、先進的なパッケージング、インターコネクト技術にあります。
Googleとその顧客は、強化学習などCPU負荷の高いワークロードに対応するため、TPUパッケージ内にCPUコアを統合しようとしています。従来のLLMトレーニングは依然としてアクセラレーター中心ですが、エージェント型モデルの推論や強化学習には、より多くの汎用コンピューティングリソースが必要です。GoogleのTPU 8iシステムでは、TPU 2基ごとにGoogle Axion CPU 1基を組み合わせています。これは、第7世代サーバーにおけるTPU 4基ごとにIntel Xeon 1基という構成と比べて、AIコンピューティングインフラにおけるCPU依存度が高まっていることを示しています。