Skip to content

RainPPR/china-llms-anecdote-0721

Repository files navigation

国内大模型行业轶事记录 (China LLMs Anecdote 0721)

本项目收集并记录了 2026 年 4 月至 7 月期间,以 2026 年 7 月 21 日前为内容,国内各大主流大模型厂商围绕“提取并蒸馏 Claude 加密思维链(CoT)”以及“月之暗面 Kimi K3 架构创新与刷榜争议”等事件的来龙去脉与内幕信息。

Contents

  • 国内大模型蒸馏风波的来龙去脉:详细记录了整场技术泄露与蒸馏风波的时间线,包括加密思维链的提取原理、各大厂(智谱 GLM、腾讯混元、月之暗面 Kimi、通义千问 Qwen、DeepSeek)的应对与动作,以及 Kimi 裁撤 RL 组与架构争议的技术分析。
  • 聊天记录:行业内圈内人士针对该事件的非正式聊天记录,真实还原了当时关于 Kimi K3、大厂共享蒸馏数据等劲爆内幕的讨论氛围。
  • 图片汇总:汇总了聊天记录中提及的各种群聊截图、数据对比图和相关佐证材料。

TL;DR

本项目记录了 2026 年上半年国内大模型行业爆发的“加密思维链(CoT)提取与大蒸馏风波”,揭示了各大主流厂商在技术路线、资本压力与评测指标之间的深度博弈:

  1. 思维链防线失守:2026 年 4-5 月,智谱(GLM)率先破解并提取了 Anthropic 等头部厂商在流式输出中使用的 Fernet 加密 Reasoning Blob(加密思维链,即“内功心法”)。智谱随后主动向国内其他厂商共享了方法和数据,从而拉开了国模的“大蒸馏时代”序幕。
  2. Kimi(月之暗面)的激进策略与作弊争议
    • 裁撤 RL 团队:杨植林以“降本增效”为由裁撤了强化学习(RL)组,导致团队成员大量流向 Qwen(被称为“Kimi 难民”)。Kimi 彻底退回纯粹的 SFT 路线,并宣传通过 DeltAttention 等架构创新实现效率提升(被质疑为掩盖 Infra 并行复杂度、转移注意力的技术烟幕)。
    • 极端刷榜操作(Bench-maxxing):为缓解财务压力并筹备港股 IPO,Kimi K3 被曝光采用了将 benchmark 测试集直接灌入训练集、在 Arena 评测中将特定请求私下路由至原版 Fable 5 伪造高分、针对测评博主“猫老板”的题目捞 Log 刷分等低劣作弊手段。
    • 副作用与失真:Kimi K3 的实际水平在 80 分左右却被硬刷至 95 分。由于过度蒸馏,其在对话中频繁出现自称是“由 Anthropic 制作的 Claude”的自我认知污染,且在独立评测中面临高达 51% 的幻觉率及严重的 OOD(分布外)泛化衰退。
  3. 行业多米诺骨牌效应:Kimi 先声夺人的非正常竞争打破了市场均衡,倒逼本不刷榜的厂商(如 DeepSeek 等)也面临刷榜压力,整个国模行业卷入“面向指标与投资人开发”的怪圈,被称为“国模最黑暗的时代”。
  4. 厂商生存现状
    • Minimax:受蒸馏指控、限售股解禁、降价促销和 AI 情感陪伴新规落地影响,港股股价狂跌 85%,面临财务大失血。
    • Qwen(阿里):吸纳了 Kimi 流出的 RL 团队,也在疯狂蒸馏 GPT 与 Claude,测试版虽偶现惊艳(如写出超越 K3 级别的游戏代码)但质量起伏不定。

LICENSE

本项目采用 CC0 1.0 Universal (CC0 1.0) 公共领域贡献宣告 协议开源。

在此宣告下,作者已在法律允许的范围内,放弃其对本项目所有内容在世界范围内所享有的著作权及一切相关权利。您可以自由地复制、修改、分发和演绎本项目中的材料,甚至可用于商业目的,而无需向原作者申请许可或进行任何署名。

About

No description, website, or topics provided.

Resources

License

Stars

107 stars

Watchers

0 watching

Forks

Releases

No releases published

Packages

 
 
 

Contributors