为什么值得读
MoE 的部署成本主要压在显存上：路由再稀疏，专家权重也得全部驻留。这篇给了一个不靠逐专家重要性打分的路子——用「专家输出张成的子空间」和「输出分布覆盖」来选子集，思路可以直接接到自己的剪枝流水线上。
观察：专家数量是名义值，实际自由度远小于此
作者先做了一件很朴素的事：把每个 MoE 层里各专家的输出拿出来，算稳定秩（stable rank）和熵有效秩（entropy effective rank）。跨不同模型、不同任务类别，这两个量都稳定地远低于名义专家数；输出分布的「有效模态数」也偏少。
含义很直接：专家之间不是彼此独立的基向量，而是挤在一个低维子空间里。既然有效自由度本来就低，按「单个专家重要性」排序后一刀切，很容易把某个方向上的信息一起删掉。
方法：把剪枝改写成子集选择，贪心求解
在这个观察上，论文把专家剪枝重新表述为「保结构的专家子集选择」问题，而不是「给每个专家打分→取 top-k」，也不是穷举专家组合（组合爆炸）。求解用贪心策略，代价可控。
框架里给了两个具体目标：PEEP（Projection Energy Expert Pruning）最大化加权投影能量，保住专家输出张成的功能子空间；DCEP（Distributional Coverage Expert Pruning）最小化加权覆盖误差，保住输出分布的几何形状。两者都把路由权重当先验，于是「全局结构关系」和「单个专家的局部重要性」同时进入目标函数。
结果：保留一半专家，多数基准仍优于 SOTA 基线
实验在 DeepSeek-V2-Lite 和 Qwen3-30B-A3B 上做，覆盖 75% 与 50% 两个保留率。论文的表述是：在多数基准上超过现有最优基线，并且在通用任务与数学推理两类任务上平均表现都最好。
值得注意的是评测口径把「通用」和「数学推理」分开报告——这两类任务对专家子空间的要求不同，能同时守住，说明保结构确实比逐专家打分更抗偏。
落地前值得先查的三件事
摘要没有说明剪枝后是否需要继续训练（recovery / fine-tune），这直接决定工程成本量级，读全文时应优先看实验设置一节。
剪枝率的适用边界也需自查：50%/75% 是论文选的档位，更低保留率下结构约束是否还撑得住，摘要未给数据。
评测集中在两个中等规模 MoE 上，更大参数量、更多专家的模型上贪心选择的开销与收益需自行验证。
本站仅据 arXiv 摘要页（E1）整理，未复现实验、未读全文细节；剪枝后是否需继续训练、更低保留率下的表现、更大模型上的可迁移性，摘要均未交代；两个实验模型的结果不等价于全家族结论；摘要页检索未发现代码仓库链接，复现依赖作者后续放出。
本文基于论文原文摘要与方法章节整理，观点由编辑撰写；如与原文有出入，以 arXiv 原文为准。 内容为信息整理与技术评论，不构成投资或决策建议。 发现错误请通过站内纠错页提交（记录可查），修订记录只增不删。