Quantização

2 posts encontrados

Imagem do post

Ternary Bonsai 2 27B: a IA de 27 bilhões de parâmetros que encolheu 9 vezes e roda no seu laptop

PrismML lança Ternary Bonsai 2 27B: modelo comprimido mantém 98,2% do desempenho com apenas 5,9 GB A empresa PrismML an...

Imagem do post

Google apresenta TurboQuant e reduz uso de memória de IA em até 6 vezes

O Google anunciou o TurboQuant, uma nova tecnologia capaz de reduzir em até seis vezes o consumo de memória de modelos d...