学科树

人工智能 / 大语言模型 LLM / 模型结构与预训练 / 混合专家 MoE

混合专家 MoE

学习路由、专家负载均衡及稀疏计算。