Skip to content

Releases: luxingcom/luz-deepseek-flash-all-in-one

LuZ-0.3.2 定版 — DeepSeek-V4.1-Flash @ 4×DGX Spark GB10 TP4 RoCE 全栈优化

Choose a tag to compare

@luxingcom luxingcom released this 20 Oct 05:00

LuZ-0.3.2 Release Note — 收官版(2026-10-20 定版)

量具与口径声明(外部数字带外纪律):本档全部性能/质量数字=本战役自研量具
读数(sd_bench 家族,PR 口径逐文件对齐社区基准 sparkDash 的九项定义并经对表
审计),基线=本版本判读线列(MS1017/A6-ANCHOR-7)——全部对比均为战役内
自基线读数,不引用外部社区数字作判读依据。DE 报数一律 mt400 正典口径
(83 系=旧权重 mt400、73 系=mt64 仪表盘、80 系,三系互不可比;本档 DE 数字
全部为 mt400 正典系)。质量基线档=docs/registry/BENCHMARK-SOURCE.md。

〇、版本叙事

0.3.2=以五目标制(PR 吞吐/DE 质量/C8 多并发定标/512k 长上下文/bug 全清)
驱动的性能与质量双线版本。主线四段:

  1. 净线重建(网络链路重整:管理段重编址、NCCL 网面修复、环网补丁链退役、
    stock NCCL 接管);
  2. 死锁修复(43h 长稳调度死锁定位与修复:上游最小修复集 520d6d0 回移植+
    位级保持形 r032c,位级对拍 7/7 三面全等,产线转正在役);
  3. 五目标执行链(A6 修复形→R1 转正→E16-B1/B2 通信面→CBX1A→C13 定标窗);
  4. 收官锁定(现役形即终态形转正宣告:零拆靴零复靴)。

任务池 84 件全部三态处置:留役 10/关案 40/挂 0.3.3 34。

一、五目标成绩单

# 目标 0.3.2 终态 判
① PR 吞吐(A 轨 6600/B 轨 7000) A 轨未达(差 4.7%)——64k 峰档 6289.3(=判读线基线 6147.3 之上 +2.3%,两级抬升);B 轨差 11.4% 部分(+2.3% 拿到)
② DE prose C1(A 轨 ≥84/B 轨 90) A 轨达成——prose 88.06→88.62(CBX1A 形,锚 88.64 域),全程 ≥84;B 轨 90 未达(缺口 ~1.4);DE-48 五档锚全齐 达成(A 轨)
③ C8 多并发 定标交付(已闭)——聚合锚列全齐+R37-c A/B 轨定标提案采纳;数值改善判读位=0.3.3 达成(定标义)
④ 512k 斜率(A 轨峰→256k ≤−6.5%) 未达(0.3.3 兑底)——峰→512k −28.65%/峰→256k −12.31%(正式读数) 未达
⑤ bug 全清(21 件) 处置面闭环——已闭 13+部分闭 5+挂 0.3.3/呈裁 3,全件有处置记录 部分(处置面闭环)

二、性能终态(0.3.2 收口读数)

2.1 PR 吞吐七档(sparkdash 主口径,tok/s;判读锚=A6-ANCHOR-7)

8192 16384 32768 65536 131072 262144 524288
5522.5 6040.2 6271.3 6289.3 6048.1 5427.9 4290.0
  • 64k 峰档 6289.3 vs A 轨 6600=差 4.7%;vs 判读线基线 6147.3=+2.3%
    (两级抬升链:6147.3 →A6 形 6271.5〔+2.0%〕→A6+R1 6289.3〔+2.3%〕)。
  • 转正窗维护读(sparkdash 七档 −0.8~+0.4%)全 IN-BAND(带内复现成立)。

2.2 DE 五档锚列(mt400 正典口径;DE-48 量具)

档 c1 c2 c4 c8 c16(观察位)
agg_med 锚 88.64 域(CBX1A 形读 88.62) 128.89 168.35 242.83 357.9
per_med 88.59-88.62 67.87 43.22 31.50 23.89
per 流比 1.0 0.766 0.488 0.356 0.270
P95/P99 88.8/88.8 67.93/67.95 45.82/48.42 34.08/34.96 25.85/26.78
  • A6 修复效应:DE 四型 vs 修复前基线 +8.7~+9.6%(code 140.5/prose 88.06/
    structured 159.9/json 136.55);R1 转正复读 ±0.2% 零形变直读。
  • prose 链终态:88.06〔A6 形〕→88.62〔CBX1A 形〕→88.59〔维护读〕,全程 ≥84。

2.3 C8 多并发(定标交付)

  • 聚合锚列:C1=3757.7/C2=2849.8(C2/C1=0.758)/C4=1571.0
    (C4/C1=0.418,两靴逐位同值);burst TTFT 四型 p50/p95 基线在档
    (code 0.278/0.288;json 0.253/0.266;prose 0.246/0.265;structured 0.246/0.316,s)。
  • 定标提案(已采纳):A 轨·现实承诺=DE-48 c4 agg_med 对锚 ≥+3% ∧ liter C4/C1
    衰减率 ≥+2pp(0.418→≥0.438)∧ P95/P99 双看不红 ∧ burst TTFT p95 恶化 ≤3% ∧
    硬守门全绿;B 轨·实质改善=c4 agg ≥+8% ∧ C4/C1 ≥+5pp(≥0.468)∧ c8 压力位非负。
    数值改善判读位=0.3.3(满池混合形)。

2.4 512k 长上下文斜率(正式读数)

峰→256k −12.31%(sd −13.69%)/峰→512k −28.65%(sd −31.79%)/
256k→512k 段 −18.63%——A 轨 ≤−6.5% 未达(峰→256k 口径缺口 5.81pp),0.3.3 兑底
(治理链=树形适配挂 0.3.3 头,期望管理落点 ≈−23%±3)。

2.5 通信/组合机制读数(摘)

census decode 通信占比 8.5-10%(c1-c8);四层归因 Δ 无一超线性
(R1INK0 −12.70%/PSP0 −16.14%/L2PF0 ±0.00%);c16 包络三次复测
−2.4→−1.7→+1.9%=观察带定谳(≥3% 维持门第三次未达)。

三、变更集(留役 10 件分件价值)

面 件与价值
PR A6 修复形(indexk page64 遮蔽消除;DE 四型 +8.7~+9.6%/PR +1.0~+3.0% 全正向)+R1 转正形(FP4KV 内核 r1_formal=1;零形变直证 ±0.2%)——64k 峰档两级抬升至 6289.3
DE CBX1A cert M 八元(DSV41_CERT_HEAD_M=6,12,18,24,30,36,42,48;c4 +0.7% 正向/c1/c8 零漂)+B18 资格自证;DE-48 五档锚列全齐
通信 E16-B1 包络双键 1179648(RoCE gather 消息包络同抬)+B2 compact gather
服务 A8 --tool-call-parser deepseekv41+A9 --enable-cache-report(issue #1/#2 修复在役)+A10②-a 网关容量四键(issue #3,缺省关零行为差);SPEC6 九参谱(含 --sleep-on-idle)
工程 D12 沉降键面+D15 五门断言族在役(UMA/B2 GID/PFC/容器账/doctor 双检);量具正典族(DE-48/pr_ladder7/parse_newseq/biteq_band/census_v31)
bug 21 件=已闭 13+部分闭 5+挂 0.3.3/呈裁 3(全件有处置记录)

死锁修复与取证面:520d6d0 最小修复集+r032c 位级保持形(docs/deploy/DEADLOCK-MITIGATION-AND-FORENSICS-20261018.md 规避/取证包随仓)。

四、硬守门零回归声明

门 终态
EQ-1 位等 跨靴 6/6(WCBOOT71↔73↔74 逐字)
GSM8K 0.985-0.99(≥0.97;快核 100/100 err=0)
needle 600k 3/3(魔码逐题全等)
池红线组 pool 9.6M/chunked 4096/MRR 16/ctx 600000(boot 行断言在役)
PR 七档 vs 锚全 IN-BAND
gid-face-gate 16/16 GREEN

0.3.2 终态形(boot r3-boot-arm.sh 20f22bc6/adapter b58e49ff(89 件)/env
CBX1A 56 键 0729e18d/overlay a1e7c3b5/IMAGE 0.3.2-r032c digest
sha256:47f6d91a…ffc4)=「现役形即终态形」零拆靴零复靴转正。

五、已知局限与 0.3.3 待启面

  • 512k 斜率未达(−28.65%;A 轨 ≤−6.5% 兑底 0.3.3,树形适配治理链挂头)。
  • c16 收益主张=观察带非成立带(量具弱点如实注记:mt400 prose c16 均批<16,
    满批形收益面未覆盖)。
  • band-3 栈级不可观测(census profiler-eager stock 回退;替代证据链在档)。
  • DE B 轨 90 未达(缺口 ~1.4)。
  • 0.3.3 待启:全闪 decode 迁移调研线落地(含 FP8 迁移与完整换包重烘)+树形适配
    +池挂 34 件。

六、回退面(逐件一行可逆)

  • 镜像双存:r032c 在库+r032 基线;boot IMAGE 单行回指+W0c 配方备份四路
    (1 靴 ≈1.5-2h)。
  • adapter 逐件回拷链:A6 beb131ab→55b1e412/R1 75062432→feaaadd4。
  • env 回退链:CBX1A→E16B2→FB54→WG53(相邻级一键回指)。
  • 已执行回退件(B20/E11/B24/B25/L2OFF)零残留横幅自证。

七、系列衔接与升级路径(0.3.1 → 0.3.2)

形变化(升级时逐项对表):

面 0.3.1 定版 0.3.2 定版
镜像 0.3.1-r3(烘焙时点 rc3.8.3) 0.3.2-r032c(digest 47f6d91a…ffc4;最小修复集 520d6d0+位级保持形)
serve 参 SPEC6 六参 九参(+A8 --tool-call-parser deepseekv41+A9 --enable-cache-report+--sleep-on-idle)
env 键面 51 键 PROD-R51W5FL6(2ac74586) CBX1A 56 键(0729e18d;公开位=deploy/env/CBX1A-CERTM-spec1.env;完整重建包=deploy/reconstruct/0.3.2/)
adapter 55b1e412 形 b58e49ff(89 件记录;0.3.1 基底+覆盖后 87 个运行时件;装配账=deploy/adapter/0.3.2-MANIFEST.md5)
boot 链 r3-boot-arm.sh 旧参面 20f22bc6(九参/D15 五门/IMAGE r032c)

兼容性:HTTP API 无破坏性变更;新增能力=tool_calls 结构化成型(issue #1)、
usage.prompt_tokens_details.cached_tokens 上报(issue #2)、/v1/models 容量
四键(issue #3,缺省关、零行为差)。旧客户端无需改动。

升级步骤(单靴,≈1.5-2h):①registry 拉取/加载 0.3.2-r032c 并核 digest;
②切换 env 键面到 CBX1A 同形(或按差异表增量补键);③切换 adapter 面(0.3.1
基底 + reconstruct 覆盖,逐件账在案);④boot IMAGE 指针改 r032c,跑 boot 四查+
tools/serve_flags_gate.sh(断言 A8/A9 真接线);⑤质量快核(GSM8K/needle/PR
单档)后再开判读窗。逐步命令、性能复现与排障=
UPGRADE-0.3.2.md。

回退路径:boot IMAGE 单行回指 0.3.2-r032 或 0.3.1-r3;env 相邻级回指
CBX1A→E16B2→E16B1→FB54→0.3.1 51 键;adapter 整树回拷升级前备份(或 A6/R1
逐件回拷链)。回退后同样跑 boot 四查+起栈接线闸门(旧形 A8/A9 未接线时闸门应红
——这是预期判别,不是回归)。

系列文档:版本总览/发布面五层见 README;工程全账见
CHANGELOG。


八、可重建性交付(重建包)

v0.3.2 tag 时公开仓缺的现役增量,已全部归位到
deploy/reconstruct/0.3.2/,并在顶层
公开了现役 env 与 adapter 装配账。本节回答“缺没缺、在哪、怎么验”。

面 交付物 目标指纹
r032c 镜像 16 件全文 + 79cafec0→f9d89b02 补丁 + 公开构建脚本 + IMAGE-IDENTITY + 树 md5 台账 digest sha256:47f6d91a…e2ffc4;cid 6e379f6f…;71 层
A6 adapter sitecustomize.py 全文/补丁 beb131ab
R1 adapter kv_fp4.py 全文/补丁(fi_r1/* 零字节) 75062432
E16B2 b12x roce_oneshot.py/_allgather_cute.py + adapter replicated_split.py + env 两键 035c860c / 7253717a / 7d6f79b0 / 5877fcb0
W-E(配套) b12x _roce_proxy.c + adapter roce_ar.py 23646e89 / f61e0183
r032c 适配迁移 adapter 9 件(seam/sparse_wire/…) 逐件 md5 台账
CBX1A 56 键 env + FB54/E16B1/E16B2 逐级链 0729e18d;公开位 deploy/env/CBX1A-CERTM-spec1.env
adapter 终态 0.3.1 基底 83 件 + 13+4 件覆盖 = 87 个运行时件 活件记录 b58e49ff;装配账 deploy/adapter/0.3.2-MANIFEST.md5
0.3.2 权重 1017 84 文件 SHA256SUMS + NFS/秩映射 510,311,045,870 B;config 8be45ce0…
engram 8 分片 sha256 + pack_engram.py/打包/分发/校验工具 202,758,065,168 B
boot 参面 九参/WORKERS/四查/回退 产线 20f22bc6;公开件 9ac6e113(脱敏)

逐步升级文档:UPGRADE-0.3.2.md——0.3.1 基底+
混合快照的装配顺序、boot 门、性能复现命令与参考值、回退/排障。adapter 装配
单页=deploy/adapter/0.3.2-ASSEMBLY.md。

自验:bash deploy/reconstruct/0.3.2/verify.sh → RECON-KIT PASS。覆盖
MANIFEST、env 键数/md5、adapter 12 件生产 md5、overlay/b12x、镜像 16 件台账、
权重 84 行、engram 8 分片、三层补丁 git apply --check、敏感面扫描与反向自检。
adapter 整树装配后用 cd <assembled> && md5sum -c deploy/adapter/0.3.2-MANIFEST.md5
验收 87 件(86 件与产线逐字节相同;build_repack_cuda.sh 仅注释家目录脱敏)。

仍需外部提供:基座镜像(48.6GB/70 层,80e1ea8979c5)、1017 权重(476G)、
engram 分片(约 189G,可由包内工具从权重重新生成)。这三项是分发体积/许可边界,
不进 Git;包内给身份指纹与校验清单。

结论:除上述三项外部大件外,r032c 修复、A6/R1 优化、E16B2/CBX1A 配套、
adapter 终态与 1017 权重台账均可由公开仓逐字节重建;0.3.2 现役 env 与 adapter
装配面已公开,不再有“内部臂件/呈裁位”缺件。


(本档=0.3.2 收官 release note 正典档;CHANGELOG「0.3.2 收官」节为其摘要面。
判读线零事后改:历史读数一律引注不改。)

LuZ-0.3.1 正式发布(DeepSeek-V4.1-Flash @ 4×DGX Spark GB10 TP4 RoCE 全栈优化定版)

Choose a tag to compare

@luxingcom luxingcom released this 14 Oct 09:36

LuZ-0.3.1 正式发布(2026-10-14)

DeepSeek-V4.1-Flash @ 4×NVIDIA DGX Spark(GB10,SM121)TP4 内部 RoCE 环网全栈优化定版。基于 SGLang 上游 main-79cafec0 的自有优化层(Apache-2.0,上游注记见 NOTICE)。

📦 下载

网盘(主通道,大文件):夸克网盘「luz-0.3.1-release-bundle-20261014.7z」

件 体量 sha256
images/dsv41-sglang-optimized-0.3.1-r3.tar(交付镜像,load → 192.168.5.187:5000/dsv41-sglang-optimized:0.3.1-r3) 14.4G 6afa44298b9a788b584abf2181495192b7252f0e4f0f2f462fbbe3ccd8941906
repo/luz-deepseek-flash-all-in-one-v0.3.1.tar.gz(交付仓快照含 .git@cbc9a6b) ~90M 6a7b6b99d4f444da36f9d10368fcf0c98ccb6f6a25e3f32a4287b0aec9bf0646

接收端:sha256sum -c CHECKSUMS.manifest → docker load → layer cid 核对 ffed489217c872ea(冷构建双跑 PASS 值)。细则见包内 README-DIST.md。

内网 registry(四机可达):直链与指纹见 README §二。dsv41-sglang-optimized 谱系未推 registry,离线分发恒走网盘包。

本仓:完整可部署源面(deploy/ 服务面全集+tools/ 五工具包+docs/ 九章部署指南)。

📊 三模型定版读数(0.3.1)

模型 关键读数
V4.1-Flash(51 键终值形) census 步墙 626.1 ms/step(866 基线 −27.8%,目标 677 达成)|PR ②尺四档 5203.7–6126.3 tok/s(128k 5883.3)|agg600k 4958.5|DE c1 81.67|GSM8K 0.97/needle 600k 3/3/qeval 75/75
0731 兼容(decode-CG 组合) prose 81.22(135%)/code 123.21(118%)
VL(SGLang 原生视觉单基座) prose 63.16(126%)/code 112.93(125%);knapcio 断言 1024/1024 SAT

✨ 0.3.1 特性构成

R1 FP4-KV in-kernel 八件 | W5 stage2 MXFP8+出口直聚两键 | E3-A SWA 召回 N=256(SPEC6) | O12 主机间隙调度三键 | LL128 NCCL 三键 | FL6 SWA 召回修复(B1 完成退休+A match 回缩;cp30 实役直证 99.95% 锚位,满池 100% 水位召回承载) | 网关 rc3.8.4(GW-INFRAS-AUDIT 修复面+V2b 413 透传修复;V1-V5 生产验证全绿在役) | 交付镜像 0.3.1-r3 重烘焙(G1″ 冷构建双跑 PASS)。现役形=51 键 ENV51 2ac74586;回退链四级(50/48/47/45 键)逐级四查。完整清单见 CHANGELOG。

🚀 部署

从零部署九章指南:docs/DEPLOY-GUIDE.md(硬件前置→系统依赖锚→镜像获取→权重布局→服务面落位→env 形选择→boot 四查→验收门→VL 面)。运维护册 docs/runbook/OPS-MANUAL-031.md(含规避律四条/红线/回退链)。

脱敏注记:仓内用户名统一掩码为 liux***ya(路径/systemd User= 位),部署时替换为实际运行用户;详见 docs/registry/SANITIZATION-20261013.md。

🙏 致谢

110 条借鉴源全收录(采纳在役/判负留库/参照对比/政策依据,无论好坏无论是否用到):docs/ACKNOWLEDGEMENTS.md。


资产版本位:网盘包仓快照=cbc9a6b;其后收官增量(G2-RESTORE 终值等)以本仓 main 为权威。