Pesquisador de Princeton propõe arquitetura Recurrent Looped Transformer para reaproveitar estado do decodificador entre tokens
Um relatório técnico publicado por Yifan Zhang, pesquisador da Universidade de Princeton, apresenta uma proposta de arquitetura chamada Recurrent Looped Transformer (RLT). A ideia central da proposta é modificar a forma como grandes modelos de linguagem baseados apenas em decodificador processam sequências de tokens, fazendo com que o estado final do decodificador seja carregado de um token para o próximo, sem reinicialização na fronteira entre prompt e resposta.
Em modelos do tipo decoder-only, ou seja, modelos que contêm apenas a parte decodificadora do Transformer, há um aspecto pouco explorado na comunicação entre posições. O que é calculado na última camada do token t não alimenta diretamente a primeira camada do token seguinte. As posições se comunicam apenas por meio do mecanismo de atenção, que consulta chaves e valores previamente armazenados em cache, estruturas que guardam representações intermediárias dos tokens para reaproveitamento em cálculos futuros. A proposta do RLT busca justamente fechar esse ciclo, permitindo que o estado oculto final do decodificador, junto com seu cache de atenção de janela deslizante, seja transportado para o próximo token, abrangendo tanto o prompt quanto a resposta gerada.
A pesquisa tem caráter de especificação de projeto, definindo a arquitetura, os cronogramas de execução e o contrato de replay para aprendizado por reforço. O próprio relatório reconhece que não apresenta resultados medidos de eficiência, qualidade de raciocínio ou escalabilidade, deixando essas validações em aberto.
A arquitetura do RLT combina um codificador causal com um decodificador recorrente. O codificador processa tokens em paralelo sob uma máscara causal, produzindo representações chamadas e_t, a partir das quais é projetada uma memória de chave-valor, mecanismo que permite ao modelo consultar informações de tokens anteriores. Essa memória pode ser compartilhada entre todas as camadas do decodificador ou mantida específica por camada.
O componente recorrente está no decodificador, cujo estado completo é descrito como Ht, formado pela saída final do decodificador e pelo cache de chaves e valores da atenção de janela deslizante em cada camada. A cada token, uma combinação gated, isto é, controlada por um mecanismo de portas que regula a intensidade da informação transmitida, integra a representação do codificador com a saída anterior. Em seguida, cada bloco do decodificador executa atenção causal sobre suas próprias ativações, atenção cruzada em relação à memória do codificador e uma rede feed-forward, um módulo adicional de processamento que aplica transformações não lineares aos dados.
A configuração de referência utiliza 48 camadas no codificador e 48 no decodificador, com pesos compatíveis compartilhados entre eles. Isso resulta em 96 blocos lógicos por token, embora os blocos do decodificador incluam atenção cruzada, o que torna o custo computacional por bloco desigual. O pesquisador chama esse mecanismo de reuso de parâmetros, e não de cópia de ativações.
O relatório articula três princípios de design. O primeiro é o raciocínio latente com profundidade temporal ilimitada, no qual o caminho de estado percorre um número crescente de blocos conforme a sequência avança, mantendo o trabalho por token fixo. O relatório alerta que portas e mecanismos de contração podem suprimir caminhos longos, de modo que a profundidade estrutural não garante raciocínio. O segundo princípio é o codesign entre modelo e hardware, considerando paralelismo no codificador e possibilidade de batch entre sequências independentes, sem assumir varredura paralela para o decodificador não linear nem afirmar aceleração no pré-preenchimento, fase em que o modelo processa todo o prompt de uma vez. O terceiro princípio é o codesign entre modelo e algoritmo de aprendizado por reforço, propondo que pré-treinamento, ajuste fino supervisionado, amostragem e replay compartilhem uma única transição de estado.
No treinamento, o pré-treinamento consiste em previsão do próximo token em toda a sequência, com retropropagação completa. O ajuste fino supervisionado mascara a perda nos tokens do assistente, mas nunca mascara atualizações de estado. O relatório também discute o atendimento multi-turno, que exige um snapshot exato do prefixo, incluindo caches do codificador, estado completo do decodificador e metadados de posição.
A proposta dialoga com trabalhos anteriores, como o YOCO, que armazena chaves e valores uma única vez para um decodificador cruzado, e o DeepSeek-V4.1-Flash, que projeta chaves e valores globais a partir dos estados finais do codificador. O RLT mantém a memória, mas elimina o salto amplo pelo prompt presente nessas abordagens. Também se conecta ao Feedback Transformer e ao Recurrent Transformer, porém alimentando a saída final anterior na próxima entrada do decodificador e executando recorrência também sobre o prompt.
Entre os pontos destacados pelo próprio relatório estão o carregamento contínuo do estado completo do decodificador entre todos os tokens, a configuração de referência com 96 blocos lógicos por token, as oportunidades de paralelismo no codificador e a reconstrução completa dos estados durante o replay de aprendizado por reforço. O documento reforça que não há resultados medidos, permanecendo a validação de qualidade de raciocínio, eficiência e escalabilidade como metas em aberto.
