Startups e capital de risco
Pesquisadores da Prefrontal relatam processamento de atenção até 72,4 vezes mais rápido
O método Latent Sparse Attention do laboratório de IA discreto acelera o processamento das camadas de atenção para contextos de 10 milhões de tokens, mantendo uma precisão comparável, segundo os pesquisadores.