DeepSeek stellt TileKernels Open Source: GPU-Kernel-Bibliothek für das Training und die Inferenz großer Modelle

Gate News-Meldung, 23. April — DeepSeek hat TileKernels unter der MIT-Lizenz Open Source gestellt: eine GPU-Kernel-Bibliothek, die in TileLang geschrieben ist und für das Training und die Inferenz großer Sprachmodelle entwickelt wurde. TileLang ist eine domänenspezifische Sprache, die vom tile-ai-Team entwickelt wurde, um leistungsstarke GPU-Kernels auszudrücken in Python. DeepSeek erklärte, dass die meisten Kernels in der Bibliothek die Hardware-Leistungsgrenzen in Bezug auf Rechendichte und Speicherbandbreite erreicht haben, wobei Teile bereits in internen Trainings- und Inferenzoperationen eingesetzt werden.

Die Bibliothek umfasst sechs Kategorien von Kernels: MoE (Mixture of Experts)-Gating und Routing, einschließlich Top-k-Expertenauswahl, Token-zu-Experten-Mapping sowie gefusedes Expand/Shrink mit Weight-Normalisierung; Quantisierung, die FP8-, FP4- und E5M6-Formate unterstützt, mit Quantisierung pro Token, pro Block und pro Kanal, einschließlich gefuserter SwiGLU+Quantisierungsoperationen; Batch-Transpose; Engram-Gating mit gefusedem RMSNorm-Vorwärts-/Rückwärts-Propagation und Reduktion des Weight-Gradienten; Manifold HyperConnection mit Sinkhorn-Normalisierung und gemischtem Split/Apply; sowie High-Level-Autograd-Schnittstellen, die Low-Level-Kernels in trainierbare Layer einhüllen.

Engram und Manifold HyperConnection sind proprietäre Komponenten der Modellarchitektur von DeepSeek; Implementierungsdetails wurden erstmals öffentlich offengelegt. Die Bibliothek benötigt NVIDIA-SM90- oder SM100-Architektur-GPUs (H100/H200 oder Blackwell-Serie), CUDA Toolkit 13.1 oder höher sowie PyTorch 2.10 oder höher.

Disclaimer: The information on this page may come from third parties and does not represent the views or opinions of Gate. The content displayed on this page is for reference only and does not constitute any financial, investment, or legal advice. Gate does not guarantee the accuracy or completeness of the information and shall not be liable for any losses arising from the use of this information. Virtual asset investments carry high risks and are subject to significant price volatility. You may lose all of your invested principal. Please fully understand the relevant risks and make prudent decisions based on your own financial situation and risk tolerance. For details, please refer to Disclaimer.

Verwandte Artikel

Pyth Network zieht die Pythnet-Anwendungskette später im Jahr 2026 zurück und beendet OIS-Belohnungen

Gate News-Mitteilung, 23. April — Pyth Network hat angekündigt, dass die Anwendungskette Pythnet später im Jahr 2026 zurückgezogen wird, nachdem der Vorschlag OP-PIP-100 verabschiedet wurde, während der Vorschlag OP-PIP-103 die Belohnungs-Auszahlungsrate für Oracle Integrity Staking (OIS) auf null gesetzt hat und damit das Ende des OIS-Belohnungsmechanismus markiert, der Ende 2024 eingeführt wurde und etwa 1 Milliarde PYTH in kumuliertem Staking angezogen hat

GateNews3M her

Plasma kitzelt Produkteinführung mit Stablecoin-Bezug im Juni 2026

Gate News- Mitteilung, 23. April — Plasma kündigte Pläne an, im Juni 2026 ein neues, stablecoin-bezogenes Produkt auf den Markt zu bringen, und erklärte: „Ihr Stablecoin hat endlich ein Zuhause, Juni 2026.“ Laut Werbematerialien wird das Produkt eine Stablecoin-Zahlungskarte, Funktionen für das Konsumausgabenverhalten der Verbraucher und

GateNews1Std her

Bonanza Factory schließt PoC für die VND-Integration mit der digitalen Asset-Börse der Vietnam MB Bank ab

Gate News-Mitteilung, 23. April — Bonanza Factory, ein in Südkorea ansässiger Anbieter von Compliance-Lösungen, hat einen Proof-of-Concept (PoC) mit der Vietnam Military Commercial Joint Stock Bank (MB Bank) für die VND-basierte Ein- und Auszahlungsintegration zwischen der Bank und digitalen Asset-Börsen abgeschlossen und ist

GateNews1Std her

WBTC schließt plattformübergreifendes DVN-Konfigurations-Upgrade bis zum 26. April ab

Gate-News-Meldung, 23. April — WBTC gab bekannt, dass es seine plattformübergreifende DVN-(Decentralized Verification Network)-Konfiguration als Reaktion auf den jüngsten rsETH-Vorfall aktualisiert. Das Projekt erklärte, dass die Anpassung eine vorbeugende Maßnahme ist, die darauf abzielt, Sicherheitsstandards für die plattformübergreifende

GateNews1Std her

Bunq übertrifft 100 Millionen € im Krypto-Handel, startet Feature für Aktienkörbe

Gate News-Meldung, 23. April — Bunq, eine europäische Neobank, hat innerhalb des ersten Jahres nach dem Start seines Digital-Asset-Angebots im April 2025 über 100 Millionen € Umsatz im Krypto-Handel erzielt, bei ungefähr 500.000 Trades. Die Plattform verzeichnete 2026 einen Anstieg der Gesamtanmeldungen um 41 %, was

GateNews1Std her

GoPlus AgentGuard startet Checkup-Modus, um die Web3-Sicherheit von KI-Agenten zu stärken

Gate News-Nachricht, 23. April — Die GoPlus-AI-Sicherheitskomponente AgentGuard hat offiziell ihre Checkup-Funktion veröffentlicht. Sie ist dafür ausgelegt, Sicherheitslücken in der autonomen Entscheidungsfindung und der Vermögenssteuerung von KI-Agenten zu beheben und die Sicherheit von KI-Agenten von „fragmentierter Abfangtechnik“ zu „systematischer

GateNews2Std her
Kommentieren
0/400
Keine Kommentare