MoE

4 posts encontrados

Imagem do post

NVIDIA ensina a treinar modelos biológicos com arquitetura MoE usando menos memória e poder computacional

NVIDIA apresenta técnicas para tornar mais eficiente o treinamento de modelos biológicos baseados em arquitetura MoE A...

Imagem do post

O modelo que usa 10% do cérebro e pensa como um gigante: NVIDIA explica as arquiteturas Dense e MoE e quando escolher cada uma

Arquiteturas Dense e MoE: como a NVIDIA explica a diferença entre modelos de IA e quando usar cada um Um modelo com 30...

Imagem do post

NVIDIA quebra barreira de memória: Transformer Engine torna o treinamento dropless de modelos MoE no JAX mais rápido e acessível

NVIDIA Transformer Engine acelera treinamento dropless de modelos MoE em JAX A arquitetura conhecida como Mixture of...

Imagem do post

DeepSeek V4 chega em abril com 1 trilhão de parâmetros e arquitetura MoE

A startup chinesa DeepSeek, conhecida por suas contribuições ao campo da inteligência artificial generativa, anunciou o...