Repository navigation
Releases: luxingcom/luz-deepseek-flash-all-in-one
Release list
LuZ-0.3.2 定版 — DeepSeek-V4.1-Flash @ 4×DGX Spark GB10 TP4 RoCE 全栈优化
LuZ-0.3.2 Release Note — 收官版(2026-10-20 定版)
量具与口径声明(外部数字带外纪律):本档全部性能/质量数字=本战役自研量具
读数(sd_bench家族,PR 口径逐文件对齐社区基准 sparkDash 的九项定义并经对表
审计),基线=本版本判读线列(MS1017/A6-ANCHOR-7)——全部对比均为战役内
自基线读数,不引用外部社区数字作判读依据。DE 报数一律 mt400 正典口径
(83 系=旧权重 mt400、73 系=mt64 仪表盘、80 系,三系互不可比;本档 DE 数字
全部为 mt400 正典系)。质量基线档=docs/registry/BENCHMARK-SOURCE.md。
〇、版本叙事
0.3.2=以五目标制(PR 吞吐/DE 质量/C8 多并发定标/512k 长上下文/bug 全清)
驱动的性能与质量双线版本。主线四段:
- 净线重建(网络链路重整:管理段重编址、NCCL 网面修复、环网补丁链退役、
stock NCCL 接管); - 死锁修复(43h 长稳调度死锁定位与修复:上游最小修复集
520d6d0回移植+
位级保持形 r032c,位级对拍 7/7 三面全等,产线转正在役); - 五目标执行链(A6 修复形→R1 转正→E16-B1/B2 通信面→CBX1A→C13 定标窗);
- 收官锁定(现役形即终态形转正宣告:零拆靴零复靴)。
任务池 84 件全部三态处置:留役 10/关案 40/挂 0.3.3 34。
一、五目标成绩单
| # | 目标 | 0.3.2 终态 | 判 |
|---|---|---|---|
| ① | PR 吞吐(A 轨 6600/B 轨 7000) | A 轨未达(差 4.7%)——64k 峰档 6289.3(=判读线基线 6147.3 之上 +2.3%,两级抬升);B 轨差 11.4% | 部分(+2.3% 拿到) |
| ② | DE prose C1(A 轨 ≥84/B 轨 90) | A 轨达成——prose 88.06→88.62(CBX1A 形,锚 88.64 域),全程 ≥84;B 轨 90 未达(缺口 ~1.4);DE-48 五档锚全齐 | 达成(A 轨) |
| ③ | C8 多并发 | 定标交付(已闭)——聚合锚列全齐+R37-c A/B 轨定标提案采纳;数值改善判读位=0.3.3 | 达成(定标义) |
| ④ | 512k 斜率(A 轨峰→256k ≤−6.5%) | 未达(0.3.3 兑底)——峰→512k −28.65%/峰→256k −12.31%(正式读数) | 未达 |
| ⑤ | bug 全清(21 件) | 处置面闭环——已闭 13+部分闭 5+挂 0.3.3/呈裁 3,全件有处置记录 | 部分(处置面闭环) |
二、性能终态(0.3.2 收口读数)
2.1 PR 吞吐七档(sparkdash 主口径,tok/s;判读锚=A6-ANCHOR-7)
| 8192 | 16384 | 32768 | 65536 | 131072 | 262144 | 524288 |
|---|---|---|---|---|---|---|
| 5522.5 | 6040.2 | 6271.3 | 6289.3 | 6048.1 | 5427.9 | 4290.0 |
- 64k 峰档 6289.3 vs A 轨 6600=差 4.7%;vs 判读线基线 6147.3=+2.3%
(两级抬升链:6147.3 →A6 形 6271.5〔+2.0%〕→A6+R1 6289.3〔+2.3%〕)。 - 转正窗维护读(sparkdash 七档 −0.8~+0.4%)全 IN-BAND(带内复现成立)。
2.2 DE 五档锚列(mt400 正典口径;DE-48 量具)
| 档 | c1 | c2 | c4 | c8 | c16(观察位) |
|---|---|---|---|---|---|
| agg_med 锚 | 88.64 域(CBX1A 形读 88.62) | 128.89 | 168.35 | 242.83 | 357.9 |
| per_med | 88.59-88.62 | 67.87 | 43.22 | 31.50 | 23.89 |
| per 流比 | 1.0 | 0.766 | 0.488 | 0.356 | 0.270 |
| P95/P99 | 88.8/88.8 | 67.93/67.95 | 45.82/48.42 | 34.08/34.96 | 25.85/26.78 |
- A6 修复效应:DE 四型 vs 修复前基线 +8.7~+9.6%(code 140.5/prose 88.06/
structured 159.9/json 136.55);R1 转正复读 ±0.2% 零形变直读。 - prose 链终态:88.06〔A6 形〕→88.62〔CBX1A 形〕→88.59〔维护读〕,全程 ≥84。
2.3 C8 多并发(定标交付)
- 聚合锚列:C1=3757.7/C2=2849.8(C2/C1=0.758)/C4=1571.0
(C4/C1=0.418,两靴逐位同值);burst TTFT 四型 p50/p95 基线在档
(code 0.278/0.288;json 0.253/0.266;prose 0.246/0.265;structured 0.246/0.316,s)。 - 定标提案(已采纳):A 轨·现实承诺=DE-48 c4 agg_med 对锚 ≥+3% ∧ liter C4/C1
衰减率 ≥+2pp(0.418→≥0.438)∧ P95/P99 双看不红 ∧ burst TTFT p95 恶化 ≤3% ∧
硬守门全绿;B 轨·实质改善=c4 agg ≥+8% ∧ C4/C1 ≥+5pp(≥0.468)∧ c8 压力位非负。
数值改善判读位=0.3.3(满池混合形)。
2.4 512k 长上下文斜率(正式读数)
峰→256k −12.31%(sd −13.69%)/峰→512k −28.65%(sd −31.79%)/
256k→512k 段 −18.63%——A 轨 ≤−6.5% 未达(峰→256k 口径缺口 5.81pp),0.3.3 兑底
(治理链=树形适配挂 0.3.3 头,期望管理落点 ≈−23%±3)。
2.5 通信/组合机制读数(摘)
census decode 通信占比 8.5-10%(c1-c8);四层归因 Δ 无一超线性
(R1INK0 −12.70%/PSP0 −16.14%/L2PF0 ±0.00%);c16 包络三次复测
−2.4→−1.7→+1.9%=观察带定谳(≥3% 维持门第三次未达)。
三、变更集(留役 10 件分件价值)
| 面 | 件与价值 |
|---|---|
| PR | A6 修复形(indexk page64 遮蔽消除;DE 四型 +8.7~+9.6%/PR +1.0~+3.0% 全正向)+R1 转正形(FP4KV 内核 r1_formal=1;零形变直证 ±0.2%)——64k 峰档两级抬升至 6289.3 |
| DE | CBX1A cert M 八元(DSV41_CERT_HEAD_M=6,12,18,24,30,36,42,48;c4 +0.7% 正向/c1/c8 零漂)+B18 资格自证;DE-48 五档锚列全齐 |
| 通信 | E16-B1 包络双键 1179648(RoCE gather 消息包络同抬)+B2 compact gather |
| 服务 | A8 --tool-call-parser deepseekv41+A9 --enable-cache-report(issue #1/#2 修复在役)+A10②-a 网关容量四键(issue #3,缺省关零行为差);SPEC6 九参谱(含 --sleep-on-idle) |
| 工程 | D12 沉降键面+D15 五门断言族在役(UMA/B2 GID/PFC/容器账/doctor 双检);量具正典族(DE-48/pr_ladder7/parse_newseq/biteq_band/census_v31) |
| bug | 21 件=已闭 13+部分闭 5+挂 0.3.3/呈裁 3(全件有处置记录) |
死锁修复与取证面:520d6d0 最小修复集+r032c 位级保持形(docs/deploy/DEADLOCK-MITIGATION-AND-FORENSICS-20261018.md 规避/取证包随仓)。
四、硬守门零回归声明
| 门 | 终态 |
|---|---|
| EQ-1 位等 | 跨靴 6/6(WCBOOT71↔73↔74 逐字) |
| GSM8K | 0.985-0.99(≥0.97;快核 100/100 err=0) |
| needle | 600k 3/3(魔码逐题全等) |
| 池红线组 | pool 9.6M/chunked 4096/MRR 16/ctx 600000(boot 行断言在役) |
| PR 七档 | vs 锚全 IN-BAND |
| gid-face-gate | 16/16 GREEN |
0.3.2 终态形(boot r3-boot-arm.sh 20f22bc6/adapter b58e49ff(89 件)/env
CBX1A 56 键 0729e18d/overlay a1e7c3b5/IMAGE 0.3.2-r032c digest
sha256:47f6d91a…ffc4)=「现役形即终态形」零拆靴零复靴转正。
五、已知局限与 0.3.3 待启面
- 512k 斜率未达(−28.65%;A 轨 ≤−6.5% 兑底 0.3.3,树形适配治理链挂头)。
- c16 收益主张=观察带非成立带(量具弱点如实注记:mt400 prose c16 均批<16,
满批形收益面未覆盖)。 - band-3 栈级不可观测(census profiler-eager stock 回退;替代证据链在档)。
- DE B 轨 90 未达(缺口 ~1.4)。
- 0.3.3 待启:全闪 decode 迁移调研线落地(含 FP8 迁移与完整换包重烘)+树形适配
+池挂 34 件。
六、回退面(逐件一行可逆)
- 镜像双存:r032c 在库+r032 基线;boot IMAGE 单行回指+W0c 配方备份四路
(1 靴 ≈1.5-2h)。 - adapter 逐件回拷链:A6 beb131ab→55b1e412/R1 75062432→feaaadd4。
- env 回退链:CBX1A→E16B2→FB54→WG53(相邻级一键回指)。
- 已执行回退件(B20/E11/B24/B25/L2OFF)零残留横幅自证。
七、系列衔接与升级路径(0.3.1 → 0.3.2)
形变化(升级时逐项对表):
| 面 | 0.3.1 定版 | 0.3.2 定版 |
|---|---|---|
| 镜像 | 0.3.1-r3(烘焙时点 rc3.8.3) |
0.3.2-r032c(digest 47f6d91a…ffc4;最小修复集 520d6d0+位级保持形) |
| serve 参 | SPEC6 六参 | 九参(+A8 --tool-call-parser deepseekv41+A9 --enable-cache-report+--sleep-on-idle) |
| env 键面 | 51 键 PROD-R51W5FL6(2ac74586) |
CBX1A 56 键(0729e18d;公开位=deploy/env/CBX1A-CERTM-spec1.env;完整重建包=deploy/reconstruct/0.3.2/) |
| adapter | 55b1e412 形 |
b58e49ff(89 件记录;0.3.1 基底+覆盖后 87 个运行时件;装配账=deploy/adapter/0.3.2-MANIFEST.md5) |
| boot 链 | r3-boot-arm.sh 旧参面 |
20f22bc6(九参/D15 五门/IMAGE r032c) |
兼容性:HTTP API 无破坏性变更;新增能力=tool_calls 结构化成型(issue #1)、
usage.prompt_tokens_details.cached_tokens 上报(issue #2)、/v1/models 容量
四键(issue #3,缺省关、零行为差)。旧客户端无需改动。
升级步骤(单靴,≈1.5-2h):①registry 拉取/加载 0.3.2-r032c 并核 digest;
②切换 env 键面到 CBX1A 同形(或按差异表增量补键);③切换 adapter 面(0.3.1
基底 + reconstruct 覆盖,逐件账在案);④boot IMAGE 指针改 r032c,跑 boot 四查+
tools/serve_flags_gate.sh(断言 A8/A9 真接线);⑤质量快核(GSM8K/needle/PR
单档)后再开判读窗。逐步命令、性能复现与排障=
UPGRADE-0.3.2.md。
回退路径:boot IMAGE 单行回指 0.3.2-r032 或 0.3.1-r3;env 相邻级回指
CBX1A→E16B2→E16B1→FB54→0.3.1 51 键;adapter 整树回拷升级前备份(或 A6/R1
逐件回拷链)。回退后同样跑 boot 四查+起栈接线闸门(旧形 A8/A9 未接线时闸门应红
——这是预期判别,不是回归)。
系列文档:版本总览/发布面五层见 README;工程全账见
CHANGELOG。
八、可重建性交付(重建包)
v0.3.2tag 时公开仓缺的现役增量,已全部归位到
deploy/reconstruct/0.3.2/,并在顶层
公开了现役 env 与 adapter 装配账。本节回答“缺没缺、在哪、怎么验”。
| 面 | 交付物 | 目标指纹 |
|---|---|---|
| r032c 镜像 | 16 件全文 + 79cafec0→f9d89b02 补丁 + 公开构建脚本 + IMAGE-IDENTITY + 树 md5 台账 |
digest sha256:47f6d91a…e2ffc4;cid 6e379f6f…;71 层 |
| A6 | adapter sitecustomize.py 全文/补丁 |
beb131ab |
| R1 | adapter kv_fp4.py 全文/补丁(fi_r1/* 零字节) |
75062432 |
| E16B2 | b12x roce_oneshot.py/_allgather_cute.py + adapter replicated_split.py + env 两键 |
035c860c / 7253717a / 7d6f79b0 / 5877fcb0 |
| W-E(配套) | b12x _roce_proxy.c + adapter roce_ar.py |
23646e89 / f61e0183 |
| r032c 适配迁移 | adapter 9 件(seam/sparse_wire/…) | 逐件 md5 台账 |
| CBX1A | 56 键 env + FB54/E16B1/E16B2 逐级链 | 0729e18d;公开位 deploy/env/CBX1A-CERTM-spec1.env |
| adapter 终态 | 0.3.1 基底 83 件 + 13+4 件覆盖 = 87 个运行时件 | 活件记录 b58e49ff;装配账 deploy/adapter/0.3.2-MANIFEST.md5 |
| 0.3.2 权重 | 1017 84 文件 SHA256SUMS + NFS/秩映射 | 510,311,045,870 B;config 8be45ce0… |
| engram | 8 分片 sha256 + pack_engram.py/打包/分发/校验工具 |
202,758,065,168 B |
| boot 参面 | 九参/WORKERS/四查/回退 | 产线 20f22bc6;公开件 9ac6e113(脱敏) |
逐步升级文档:UPGRADE-0.3.2.md——0.3.1 基底+
混合快照的装配顺序、boot 门、性能复现命令与参考值、回退/排障。adapter 装配
单页=deploy/adapter/0.3.2-ASSEMBLY.md。
自验:bash deploy/reconstruct/0.3.2/verify.sh → RECON-KIT PASS。覆盖
MANIFEST、env 键数/md5、adapter 12 件生产 md5、overlay/b12x、镜像 16 件台账、
权重 84 行、engram 8 分片、三层补丁 git apply --check、敏感面扫描与反向自检。
adapter 整树装配后用 cd <assembled> && md5sum -c deploy/adapter/0.3.2-MANIFEST.md5
验收 87 件(86 件与产线逐字节相同;build_repack_cuda.sh 仅注释家目录脱敏)。
仍需外部提供:基座镜像(48.6GB/70 层,80e1ea8979c5)、1017 权重(476G)、
engram 分片(约 189G,可由包内工具从权重重新生成)。这三项是分发体积/许可边界,
不进 Git;包内给身份指纹与校验清单。
结论:除上述三项外部大件外,r032c 修复、A6/R1 优化、E16B2/CBX1A 配套、
adapter 终态与 1017 权重台账均可由公开仓逐字节重建;0.3.2 现役 env 与 adapter
装配面已公开,不再有“内部臂件/呈裁位”缺件。
(本档=0.3.2 收官 release note 正典档;CHANGELOG「0.3.2 收官」节为其摘要面。
判读线零事后改:历史读数一律引注不改。)
LuZ-0.3.1 正式发布(DeepSeek-V4.1-Flash @ 4×DGX Spark GB10 TP4 RoCE 全栈优化定版)
LuZ-0.3.1 正式发布(2026-10-14)
DeepSeek-V4.1-Flash @ 4×NVIDIA DGX Spark(GB10,SM121)TP4 内部 RoCE 环网全栈优化定版。基于 SGLang 上游 main-79cafec0 的自有优化层(Apache-2.0,上游注记见 NOTICE)。
📦 下载
网盘(主通道,大文件):夸克网盘「luz-0.3.1-release-bundle-20261014.7z」
- 链接:**https://pan.quark.cn/s/42e685a8a10e**(提取码
24zL) - 内容与校验:
| 件 | 体量 | sha256 |
|---|---|---|
images/dsv41-sglang-optimized-0.3.1-r3.tar(交付镜像,load → 192.168.5.187:5000/dsv41-sglang-optimized:0.3.1-r3) |
14.4G | 6afa44298b9a788b584abf2181495192b7252f0e4f0f2f462fbbe3ccd8941906 |
repo/luz-deepseek-flash-all-in-one-v0.3.1.tar.gz(交付仓快照含 .git@cbc9a6b) |
~90M | 6a7b6b99d4f444da36f9d10368fcf0c98ccb6f6a25e3f32a4287b0aec9bf0646 |
接收端:sha256sum -c CHECKSUMS.manifest → docker load → layer cid 核对 ffed489217c872ea(冷构建双跑 PASS 值)。细则见包内 README-DIST.md。
内网 registry(四机可达):直链与指纹见 README §二。dsv41-sglang-optimized 谱系未推 registry,离线分发恒走网盘包。
本仓:完整可部署源面(deploy/ 服务面全集+tools/ 五工具包+docs/ 九章部署指南)。
📊 三模型定版读数(0.3.1)
| 模型 | 关键读数 |
|---|---|
| V4.1-Flash(51 键终值形) | census 步墙 626.1 ms/step(866 基线 −27.8%,目标 677 达成)|PR ②尺四档 5203.7–6126.3 tok/s(128k 5883.3)|agg600k 4958.5|DE c1 81.67|GSM8K 0.97/needle 600k 3/3/qeval 75/75 |
| 0731 兼容(decode-CG 组合) | prose 81.22(135%)/code 123.21(118%) |
| VL(SGLang 原生视觉单基座) | prose 63.16(126%)/code 112.93(125%);knapcio 断言 1024/1024 SAT |
✨ 0.3.1 特性构成
R1 FP4-KV in-kernel 八件 | W5 stage2 MXFP8+出口直聚两键 | E3-A SWA 召回 N=256(SPEC6) | O12 主机间隙调度三键 | LL128 NCCL 三键 | FL6 SWA 召回修复(B1 完成退休+A match 回缩;cp30 实役直证 99.95% 锚位,满池 100% 水位召回承载) | 网关 rc3.8.4(GW-INFRAS-AUDIT 修复面+V2b 413 透传修复;V1-V5 生产验证全绿在役) | 交付镜像 0.3.1-r3 重烘焙(G1″ 冷构建双跑 PASS)。现役形=51 键 ENV51 2ac74586;回退链四级(50/48/47/45 键)逐级四查。完整清单见 CHANGELOG。
🚀 部署
从零部署九章指南:docs/DEPLOY-GUIDE.md(硬件前置→系统依赖锚→镜像获取→权重布局→服务面落位→env 形选择→boot 四查→验收门→VL 面)。运维护册 docs/runbook/OPS-MANUAL-031.md(含规避律四条/红线/回退链)。
脱敏注记:仓内用户名统一掩码为
liux***ya(路径/systemdUser=位),部署时替换为实际运行用户;详见docs/registry/SANITIZATION-20261013.md。
🙏 致谢
110 条借鉴源全收录(采纳在役/判负留库/参照对比/政策依据,无论好坏无论是否用到):docs/ACKNOWLEDGEMENTS.md。
资产版本位:网盘包仓快照=cbc9a6b;其后收官增量(G2-RESTORE 终值等)以本仓 main 为权威。