Nvidia a lancé le processeur CPU Vera conçu spécialement pour l'IA des agents, Alibaba, ByteDance et d'autres ont prévu leur déploiement

Gate News, le 17 mars, Nvidia a officiellement lancé le Vera CPU lors de la conférence GTC, le premier processeur conçu spécifiquement pour l’Agent AI et l’apprentissage renforcé. Alors que l’IA s’étend de la génération et du raisonnement à l’action autonome des agents, les flux de travail tels que la planification de tâches, l’appel d’outils, l’exécution de code et la vérification des résultats exigent de plus en plus de performances des CPU. Le PDG de Nvidia, Jensen Huang, a déclaré : « Le CPU n’est plus simplement un assistant pour les modèles, il pilote les modèles. »

Vera utilise 88 cœurs Olympus développés en interne par Nvidia, chaque cœur pouvant exécuter simultanément deux tâches grâce à la technologie de multithreading spatial, ce qui le rend adapté aux environnements multi-locataires avec de nombreux travaux parallèles. La mémoire est basée sur la deuxième génération de sous-systèmes à faible consommation LPDDR5X, avec une bande passante de 1,2 To/s, soit le double de celle des CPU classiques, tout en consommant moitié moins d’énergie.

Les fournisseurs de services cloud prévus pour déployer Vera incluent Alibaba, ByteDance, Cloudflare, CoreWeave, Lambda, Nebius, Oracle Cloud (OCI), Together.AI, Vultr, et d’autres. Sur le plan matériel, 19 fabricants tels que Dell Technologies, HPE, Lenovo et Supermicro ont déjà commencé à adapter la plateforme. Michael Truell, co-fondateur et CEO de Cursor, un outil de programmation AI, a indiqué qu’il utiliserait Vera pour améliorer le débit et la réactivité des agents programmables. Après avoir testé Vera avec une charge compatible Apache Kafka, la latence a été réduite jusqu’à 5,5 fois. Des laboratoires américains tels que Los Alamos, Lawrence Berkeley et le Texas Advanced Computing Center ont également prévu de déployer la plateforme. Le Vera CPU est désormais en production de masse et sera expédié via des partenaires à partir du second semestre de cette année.

Voir l'original
Avertissement : Les informations contenues dans cette page peuvent provenir de tiers et ne représentent pas les points de vue ou les opinions de Gate. Le contenu de cette page est fourni à titre de référence uniquement et ne constitue pas un conseil financier, d'investissement ou juridique. Gate ne garantit pas l'exactitude ou l'exhaustivité des informations et n'est pas responsable des pertes résultant de l'utilisation de ces informations. Les investissements en actifs virtuels comportent des risques élevés et sont soumis à une forte volatilité des prix. Vous pouvez perdre la totalité du capital investi. Veuillez comprendre pleinement les risques pertinents et prendre des décisions prudentes en fonction de votre propre situation financière et de votre tolérance au risque. Pour plus de détails, veuillez consulter l'avertissement.
Commentaire
0/400
Aucun commentaire