DeepSeekがオープンソース化、TileKernels:大規模モデルの学習と推論のためのGPUカーネルライブラリ

Gate Newsのメッセージ、4月23日 — DeepSeekはMITライセンスのもとでTileKernelsをオープンソース化しました。TileKernelsは、大規模言語モデルの学習と推論のためにTileLangで書かれたGPUカーネルライブラリです。TileLangは、tile-aiチームによって開発された、Pythonで高性能なGPUカーネルを表現するためのドメイン固有言語です。DeepSeekによれば、このライブラリのほとんどのカーネルは、計算密度とメモリ帯域においてハードウェア性能の限界に近づいており、一部はすでに社内の学習および推論オペレーションに展開されているとのことです。

このライブラリは、6つのカーネルカテゴリで構成されています。MoE (mixture of experts)(エキスパートのゲーティングとルーティング)には、Top-kエキスパート選択、トークンからエキスパートへのマッピング、重み正規化を伴う結合されたexpand/shrinkが含まれます。FP8、FP4、E5M6形式をサポートする量子化には、トークン単位・ブロック単位・チャネル単位の量子化が含まれ、SwiGLU+量子化の結合演算も含まれます。バッチ転置。Sinkhorn正規化と、混合されたsplit/applyを備えたEngramゲーティング。Sinkhorn正規化と混合split/applyを伴うManifold HyperConnection。そして、高レベルの自動微分インターフェースにより、低レベルのカーネルを訓練可能な層として包み込むものです。

EngramおよびManifold HyperConnectionはDeepSeekのモデルアーキテクチャにおける専有コンポーネントであり、実装の詳細は初めて公に開示されました。このライブラリには、NVIDIA SM90またはSM100アーキテクチャのGPU (H100/H200またはBlackwellシリーズ)、CUDA Toolkit 13.1以上、そしてPyTorch 2.10以上が必要です。

免責事項:このページの情報は第三者から提供される場合があり、Gateの見解または意見を代表するものではありません。このページに表示される内容は参考情報のみであり、いかなる金融、投資、または法律上の助言を構成するものではありません。Gateは情報の正確性または完全性を保証せず、当該情報の利用に起因するいかなる損失についても責任を負いません。仮想資産への投資は高いリスクを伴い、大きな価格変動の影響を受けます。投資元本の全額を失う可能性があります。関連するリスクを十分に理解したうえで、ご自身の財務状況およびリスク許容度に基づき慎重に判断してください。詳細は免責事項をご参照ください。

関連記事

資金管理のため今後数週間にわたり一連のウォレット送金を実施するMorpho Association

Gate Newsのメッセージ、4月23日 — Morpho Associationは、定常的な資金管理業務の一環として、今後数週間にわたり、協会が保有するウォレットから一連の送金を実施します。

GateNews41分前

Circleのチーフエコノミスト、KelpDAOの余波を受けてAaveでのUSDCレート引き上げを提案

Gate Newsのメッセージ、4月23日 — CircleのチーフエコノミストであるGordon Liaoは、プロトコル全体で流動性危機を引き起こした$292 百万KelpDAO rsETHエクスプロイトを受けて、今週Aave v3 Ethereum CoreでのUSDC貸付パラメータを引き上げることを提案した。Liaoの「パブリックコメント募集(Request for Comment)」は、「S」を「S

GateNews46分前

ENS、ENSv2を発表——大規模な統合とサブドメイン拡張のための新しいドメイン基盤

Gate News メッセージ、4月23日 — ENSは、大規模な統合とサブドメインの拡張のために設計された新しいドメイン基盤「ENSv2」の近日ローンチを発表しました。 アップグレードされたシステムは、より広範な採用を支え、エコシステム全体で強化されたスケーラビリティを実現するよう構築された、ENSの次世代のドメイン命名アーキテクチャを表しています

GateNews58分前

MoonPay、Iron搭載の仮想口座をニューヨークでローンチ。企業向けに規制されたステーブルコイン決済を可能に

Gate Newsのメッセージ、4月23日――MoonPayは、Ironテクノロジーを活用した仮想口座の提供開始をニューヨーク州で発表し、フィンテック企業、暗号資産プラットフォーム、ネオバンク、証券会社、金融機関向けに規制された法定通貨からステーブルコインへの決済基盤を提供します。このサービスは

GateNews2時間前

MetaMask共同創設者Dan Finlay氏、10年を経てConsensysを退任 燃え尽き理由を明かす

Gate News メッセージ、4月23日 — MetaMaskの共同創設者であり、長年の開発者でもあるDan Finlay氏は、暗号ウォレットの構築に10年取り組んだ後の燃え尽き(バーンアウト)を理由に、同氏がConsensysを退任すると水曜日に発表しました。Finlay氏は、家族と過ごす時間を予定しており、チームが今後の道のりでうまくいくことを願ったと述べました。 Me

GateNews2時間前

Aurise Foundationが$76M 初期準備金を伴うXAUEゴールド・イールド・トークンをローンチ

Gate Newsメッセージ、4月23日 — Aurise Foundationは、Tether Gold (XAUT)のためのヴォールト層として位置づけられた、イーサリアムベースのゴールド・イールド・トークンであるXAUEのローンチを発表しました。エコシステムのパートナーであるAurelionとAntalphaが共同で初期準備金として16,052 XAUを拠出し、その価値は約$76 百万ドルです。 XAUE

GateNews2時間前
コメント
0/400
コメントなし