Repository navigation
Effects Delay Precision 2026 11 05
同じ固定バイナリ・30条件を、wall-clock burn-in 3秒以上、10ブロック、5秒cooldownで事前登録どおり再測定した。準備2秒/測定4秒分・48 kHzと全パラメーターを維持した。全300 runのchecksum・peak・RMS・状態量・遅延が初回と一致した。seedは202611056116。
logs/assets/effects-2026-11-05/delay_modulation/results/confirmation/DM11/precision-buffer-cost.png
mixed32は音声・履歴・補間がf32、位置・LFOはf64。FTZ/DAZ on。出力再利用では同じ全入力を継続して処理する。
| 設定 | f64 Full256 | mixed32 Full256 | f64 Reuse256 | mixed32 Reuse256 | f64 Reuse32 | mixed32 Reuse32 |
|---|---|---|---|---|---|---|
| delay-fixed-linear | 1.225330 | 1.548947 | 1.027173 | 1.542237 | 1.167204 | 1.805626 |
| delay-fixed-lagrange3 | 2.312482 | 5.071346 | 2.296643 | 5.107075 | 2.475569 | 5.224830 |
| chorus2-linear | 13.217490 | 14.159580 | 13.204112 | 14.178815 | 13.311364 | 14.240399 |
| chorus2-lagrange3 | 18.572047 | 19.162164 | 18.495088 | 19.194226 | 18.630619 | 19.218236 |
| bypass | 0.467364 | 0.228088 | 0.255798 | 0.102191 | 0.217236 | 0.123384 |
単位はns/stereo frame。図は10試行の平均と個別95%CIを示す。全35比較の対応差・SD・個別95%CI・t値・両側p・Holm補正pは統計表へ保存した。初回との分類変更は4/35件。
- delay-fixed-lagrange3-mixed32-reuse256 → delay-fixed-lagrange3-mixed32-reuse32: 増加 → 差未検出、Holm p 0.0201629 → 0.96176。
- chorus2-lagrange3-f64-reuse256 → chorus2-lagrange3-f64-reuse32: 増加 → 差未検出、Holm p 0.0226775 → 0.0973843。
- chorus2-lagrange3-mixed32-reuse256 → chorus2-lagrange3-mixed32-reuse32: 増加 → 差未検出、Holm p 1.21597e-05 → 1。
- bypass-f64-reuse256 → bypass-f64-reuse32: 短縮 → 差未検出、Holm p 1.15041e-06 → 0.133681。
Full256の音声混合精度化は、固定Linear +26.41%(増加)、固定Cubic +119.30%(増加)、Chorus Linear +7.13%(増加)、Chorus Cubic +3.18%(増加)。メモリ削減とCPU短縮を別に評価する。
f64固定LinearのFull256→Reuse256は-16.17%(短縮)。32frameへの変更では呼出し回数も変わるため、出力領域の大きさだけの効果とは扱わない。
初回と確認は別の無作為化ブロックであり、結果の変化をburn-in長だけの因果効果とは解釈しない。全試行を保持し、外れ値を除去していない。有意差なしは同等性を意味しない。
音声・履歴をf32へ変えるとメモリは減ったが、この試作では処理時間が増えた。出力バッファの再利用も、copyだけの測定とDSP込みでは効果が異なった。型の幅や転送量だけから実行時間を推測しないための対照である。
logs/assets/effects-2026-11-05/delay_modulation/results/precision/precision-buffer-cost.png
DM01からLinear/Lagrange3の固定Delayと2-tap Chorusを同じ計算式で抽出した。f64版と、音声・履歴・補間演算をf32、読出し位置・LFOをf64とする混合精度版を作った。後者を「純f32」とは呼ばない。入力は同じf64のchordから各音声型へ変換する。
両版を同じ構成で比較し、DM01とのCPU差は評価しない。f64版はDM01の44.1/48/96 kHz・4設定・6秒で全サンプルが数値一致した。混合精度版との差は最大絶対値3.072×10⁻⁸、最も大きい相対RMS差でも−143.59 dBだった。
この差には入力をf32へ丸める差と、補間・帰還・出力演算の差を合わせて含む。f64入力を両方へ厳密に同じ値のまま渡した「内部演算だけの誤差」という意味ではない。
48 kHz、準備2秒+測定4秒、FTZ/DAZ on。以下の3種類で同じ全入力ストリームを読む。
- Full / 256:全192,000フレームへ出力し、256フレーム単位で処理。
- Reuse / 256:256フレーム分の同じ出力領域を再利用。
- Reuse / 32:32フレーム分の同じ出力領域を再利用。
再利用版は各ブロックの出力をblack_boxへ渡す。計時後のchecksum・peak・RMSは最後のブロックを対象とする。独立した検証では1/7/32/127/256/257フレームへ分割し、全出力と最終状態を比較した。3レート・4設定・6分割の72条件を各精度で確認して一致した。
| 設定 | f64 Full256 | mixed32 Full256 | f64 Reuse256 | mixed32 Reuse256 |
|---|---|---|---|---|
| 固定Delay Linear | 1.218 | 1.549 | 1.027 | 1.546 |
| 固定Delay Lagrange3 | 2.300 | 5.068 | 2.291 | 5.080 |
| Chorus2 Linear | 13.211 | 14.164 | 13.217 | 14.146 |
| Chorus2 Lagrange3 | 18.552 | 19.145 | 18.495 | 19.145 |
| bypass copy | 0.442 | 0.229 | 0.243 | 0.100 |
単位はns/stereo frame。30条件を各ブロック内でshuffleし、10ブロック・5秒cooldown、seed 2026110511。35比較へ対応t検定とHolm補正を適用した。
Full256の混合精度化は、固定Linearが27.17%、固定Lagrange3が120.36%、Chorus Linearが7.22%、Chorus Lagrange3が3.19%増加した。全てHolm補正後p<0.05。これに対しbypass copyは48.34%短縮した。同じ型変更でもDSP算術とメモリ転送の結果は一致しない。
Full256→Reuse256はf64固定Linearで15.70%短縮し、他のDSP条件は差を検出しなかった。bypassではf64が45.19%、混合精度が56.19%短縮した。bypassの時間をDSP時間から機械的に引くと、同じ命令・メモリ挙動という前提を置いてしまうため、そのような補正はしていない。
Reuse256→Reuse32では固定Delayが約2.59〜17.17%増加した。Chorusの差は小さく、f64 Linearは差未検出、他は約0.40〜0.75%増加した。各ブロックの呼出し回数と出力領域の大きさが同時に変わる比較であり、これをbuffer長だけの普遍的な倍率とは扱わない。
固定Lagrange3の内側ループを測定に使ったバイナリから取り出した。f64は左右2sampleをmulpd/addpd/divpdで並列計算し、ループの静的命令数は65だった。混合精度版は主にmulss/addssで左右を計算し、64bit単位の出力を組み立てる整数shift/orも残り、同じ範囲の静的命令数は114だった。両版の読出し位置はブロックで固定され、このループにf64→f32変換は残っていない。
したがって固定Cubicの差を「型変換が遅いから」だけで説明することはできない。左右のベクトル化と値の配置の違いを実際に観測した結果である。静的命令数をそのまま実行時間の倍率とはしない。命令数・バイナリSHA、f64ループ、混合精度ループ。
Delayの確保リングはf64で2 MiB、混合精度で1 MiB。2秒までの最大遅延用に確保しており、現在の375 ms+0.37 sampleとは別の値である。Chorusは音声リングが64→32 KiBとなる一方、4097点のf64 LFO表は約32 KiBのまま。精度とメモリの利点は確認できるが、今回の命令生成でのCPU改善には結び付かなかった。