Verwandte Artikel

kapazitätsbewusstes Routing

Routing algorithm that distributes retained token-expert pairs among eligible instances of their original experts under capacity limits.

• LRMoE führt eine Nachkalibrierung der Last auf der Nachfrageseite für ein effizientes MoE-Training auf speicherbeschränkten Knoten ein