Repository navigation
RTX 3060 12GB (GA106 2504) + X99/C610:解锁后 FP16 ×1.79、BF16 ×1.75,ComfyUI 出图 ×1.43 #131
Replies: 1 comment 2 replies
|
@op 感谢这份报告——测法(CUDA Event 计时、≥0.4 s 窗口、3 轮中位、±0.1–0.5% 噪声标定)与负控(P600 零写入跳过)都是矩阵想收录的形状。已落三处:
两个技术性回应: 你的 Amdahl 反解很有价值,而且补齐了一个双向问题。 ~68% matmul/attention 占比 → 端到端 1.43× < 张量 1.79×,这是占比下界形态;同期 D#143(4070 Ti SUPER 3D 管线)给出了上界形态:端到端 2.0–2.2× 超微基准 1.69×(小算子依赖链缩短+空闲占比缩小)。两例已并成 theoretical-uplift "端到端/微基准比值双向"注记——以后报告端到端数字会要求标注占比方向。 FP32 不动的定性是对的,89% 达成率也是好数据点。 170 W 墙钉死(SW Power Cap active)下 FP32 平坦 = PLM 解的是功能/速率位而非功率预算——这已是文档口径,你的数据是又一独立佐证。解锁后 FP16 达 FP16 累加标称的 ~89%,与矩阵里其他 GA106 卡的 realized 区间吻合。 CSM off 才能在 X99 过交棒,与 #35/#61 的 Code 12 定律(交棒 console 归属链)及上游社区在 Jingsha X99 的独立复现(已收录 community-reports)完全一致——X99 世代固件 + CSM-on 就是这个形态。 一个小邀请:你注明"系统侧尚未跑 ssdiag"——如果方便补跑一次( |
Uh oh!
There was an error while loading. Please reload this page.
环境
10de:2504,170 W10de:1cb2),被自动跳过,零写入BOOTX64.EFIsha2569d2c41f9…bb5c)测法:PyTorch 自写脚本,CUDA Event 计时,单次窗口 ≥0.4 s(4096³ GEMM 数十次迭代),每组 3 轮取中位数,
allow_tf32=False固定,按 UUID 校验同一张卡。同状态独立跑两次的噪声为 ±0.1~0.5%,故 >2% 的差值即可判为真实变化。张量吞吐
FP16 复跑 43.53 / 43.62,落在同一区间。锁态 25.53 与 FP32 累加标称 25.48 基本重合,解锁后达到 FP16 累加标称 50.95 的约 89%。
端到端(ComfyUI,anima 模型,720×1280,30 步,同 workflow 同 seed)
冷/热差值(9.82 s 与 10.93 s)几乎不变,说明约 10 s 的权重加载与 autotune 开销不随解锁变化,冷启百分比低只是分母更大。用 Amdahl 反解(整体 1.43x、张量通路 1.79x):约 68% 的采样耗时在 matmul/attention 上,其余 32% 是 VAE 解码、CLIP 编码与调度——这就是端到端收益小于微基准的原因。
FP32 为什么一点不动
power.limit = default = max = enforced = 170 W,没有向上空间。FP32 满载 26 s 实测 169.35–169.64 W、SM 1695–1777 MHz、55–62 ℃,SW Power Cap: Active、HW Thermal Slowdown: Not Active,SW Power Capping计数增加 20.48 s。PLM 解的是产品功能位,不是功率预算;同样 170 W 下张量通路能出 45.6 TFLOPS,这才是收益来源。复现要点(X99/C610 上是 #52 那族重连卡死)
v2.1.9+ 盘根tx-reconnect-nonrecursive.txt+ BIOS 关闭 CSM 三项齐备才通过:改完后两次独立开机各通过一次(21:41 按 Enter、22:06 按空格),都是"日志写完 3 秒内 Windows 启动"。同机 P600 被
has no asset family mapping - skipping正确跳过。顺带一条小发现:
tx-reconnect-nonrecursive.txt不在 FAQ 的 marker 表里(表里只有no-reconnect.txt、tx-gop-disconnect.txt)。它的语义是"只把重连改成非递归、保留 vendor GOP 绑定"(日志原文vendor GOP bind only; console stack left to bootmgfw),比完全跳过重连温和,适合"能进系统但重连卡死"这一族。局限
v2.1.9、marker、CSM-off 三项同时生效,未做单变量消融;性能 A/B 跨了一次重启与 BIOS 变更,但差值远超 ±0.5% 噪声,且与 #70 的独立结果(同卡同 ID,1.80x)吻合。未做 FP64 数值校验与同 seed 逐像素比对,系统侧尚未跑
ssdiag。可提供:完整
loader.log(460 行 / 42,605 B,已脱敏)、基准脚本与 JSON。English summary
RTX 3060 12 GB (GA106
10de:2504) on Intel X99/C610, Windows, driver 580.88, v2.1.9; Quadro P600 (10de:1cb2) as negative control, skipped with zero writes. PyTorch GEMM, CUDA-event timing, ≥0.4 s windows, 3-trial median, run-to-run noise ±0.1–0.5%: FP16 25.53 → 45.60 (+78.7%, 1.79x), BF16 25.13 → 43.89 (+74.6%, 1.75x), FP32 7.57 → 7.55 (-0.3%), copy bandwidth 332.9 → 332.8 GB/s. End-to-end ComfyUI (anima, 720×1280, 30 steps): warm 46.81 → 32.73 s (-30.1%, 1.43x), cold 56.63 → 43.66 s (1.30x); the fixed ~10 s model-load overhead is unlock-independent. Power ceiling is 170 W for limit/default/max/enforced alike (FP32 load pins 169.5 W, 62 °C, SW Power Cap active), hence FP32 and bandwidth stay flat. On this board the transaction required v2.1.9 +tx-reconnect-nonrecursive.txt+ CSM disabled (issue #52 family); two independent boots passed.All reactions