De acordo com a Beating, a NVIDIA disponibilizou como código aberto o Nemotron-Labs-TwoTower, uma arquitetura discreta de difusão de texto projetada para acelerar a geração de texto em modelos de linguagem de grande escala. O design de torre dupla separa um modelo autorregressivo congelado, que preserva a capacidade de raciocínio, de uma torre de denoising treinável, que gera texto em paralelo. Utilizando apenas 1/12 dos dados de pré-treinamento de referência em um modelo Mamba-Transformer mixtu

De acordo com Beating, a Nvidia lançou seu principal modelo de linguagem grande Nemotron 3 Ultra em 4 de junho, com 550 bilhões de parâmetros totais e 55 bilhões de parâmetros ativos. O modelo alcança 48 no índice de inteligência da Artificial Analysis, tornando-o o modelo aberto dos EUA com melhor desempenho, ficando em segundo lugar apenas para Kimi K2.6, que tem 54 pontos. O modelo usa uma arquitetura híbrida Mamba-Transformer MoE que alterna camadas de espaço de estados Mamba-2 com camadas d

A Nvidia lançou a 12 de março o modelo de linguagem de código aberto Nemotron 3 Super, projetado para aplicações multi-agente, com um total de 120 mil milhões de parâmetros, desempenho de inferência significativamente melhorado e suporte a janelas de contexto de até 1 milhão de tokens. Este modelo obteve uma pontuação de 85,6% na avaliação de referência PinchBench, a mais alta na sua categoria, e já está disponível em várias plataformas, suportando múltiplos serviços de nuvem para implantação.