Startups y capital riesgo
Investigadores de Prefrontal informan de un procesamiento de la atención hasta 72,4 veces más rápido
El método Latent Sparse Attention del laboratorio de IA sigiloso acelera el procesamiento de las capas de atención para contextos de 10 millones de tokens y mantiene una precisión comparable, según sus investigadores.