Repository navigation
Effects Dynamics Precision Buffer 2026 11 05
調査索引 / Compressor / Limiter
同じ処理式をf32へ置き換える場合、短時間の波形差だけでは安全性を判断できない。10分の連続試験で、移動和の丸め誤差が蓄積し、逆振幅Limiterのサンプル上限が約52%超過した。移動和だけをf64に保つ対照では、この試験の超過を出力f32の丸め程度まで抑えられた。
C6 smooth-decoupled、RMS IIR max-after、Limiter Box、Inverse Boxを比較する。Limiterの先読みは5ms。Compressorはthreshold−18dB、ratio4、knee6dB、attack10ms、release100ms、makeup0。Limiterはceiling−1dB、Input Gain+6dB、release100msを基準とする。
- f64: 検出、係数、履歴、音声の計算をf64とする。
- f32: 同じ式・分岐をf32で計算する。
- mixed: Limiterの履歴サンプルと包絡はf32、移動和だけf64。新旧値をそれぞれf64へ変換してから差を取り、和を更新する。
全方式へ同じf32量子化済み入力を渡し、f64参照ではその値を拡張する。入力の量子化誤差を内部演算の差に混ぜない。数値型ごとの係数・超越関数の丸め差は比較に含む。
44.1/48/96kHzで40/80/1000/19000Hz正弦、孤立peakとburst、左右の異なる周波数、設定段差を各3秒処理した。Compressor2方式×f32、Limiter2方式×f32/mixedで126条件。全出力とgainは有限だった。
logs/assets/effects-2026-11-05/dynamics/results/precision-buffer/numerical-error.png
| 方式 | 数値方針 | 最大絶対差 | 差のdBFS |
|---|---|---|---|
| decoupled | f32 | 0.000120677424 | -78.37 |
| rmsafter | f32 | 0.0001095451 | -79.21 |
| box | f32 | 0.000284252394 | -70.93 |
| box | mixed | 0.00010274183 | -79.77 |
| invbox | f32 | 0.000137671031 | -77.22 |
| invbox | mixed | 8.33953924e-05 | -81.58 |
48kHz、左右73.17/83.39Hzの正弦に固定seedのnoiseを混ぜ、1秒ごとに振幅を4と0.1へ切り替える。2880万frameを連続処理し、各1秒の最大差・最大peak、最悪時刻、最悪差の前後1025sampleを保存した。上限の基準はf64で表した−1dBの振幅である。
logs/assets/effects-2026-11-05/dynamics/results/precision-buffer/long-drift.png
| Limiter | 方針 | 最大絶対差 | RMS差 | 最大ceiling超過 | 最大差の時刻 |
|---|---|---|---|---|---|
| box | f32 | 0.00361724828 | 0.000591068825 | 0.125512374% | 599.660292s |
| box | f32-sum64 | 5.65112387e-05 | 8.69139757e-06 | 3.348741e-06% | 415.453542s |
| invbox | f32 | 0.465334445 | 0.105695557 | 52.2113835% | 598.263167s |
| invbox | f32-sum64 | 4.31921915e-05 | 9.70458735e-06 | 3.348741e-06% | 143.814312s |
logs/assets/effects-2026-11-05/dynamics/results/precision-buffer/long-worst-waveforms.png
逐次移動和 sum += new-old は過去の丸め誤差を消す機構を持たない。和だけf64の対照により、ここでは長時間の大きいドリフトが解消した。hybridの最大差はBox約5.65×10⁻⁵、Inverse Box約4.32×10⁻⁵で、包絡や係数のf32計算による差が残る。最大ceiling相対超過3.35×10⁻⁸は、今回の上限振幅をf32で表す差と同程度だった。これは記載した入力・時間での結果であり、全入力・任意時間の浮動小数点誤差上界とは区別する。
したがって、全f32の移動和をそのままLimiterへ採用する判断はできない。f32を使う際は、検出やゲインの数値精度に加え、累積する和の型を個別に選ぶ必要がある。
性能試験は入力を連続した6秒分保持し、準備2秒+測定4秒を処理する。出力は全区間の配列、256frame再利用、32frame再利用の3構成を比較する。再利用版でも入力位置と処理Stateを継続し、各callの出力をblack_boxする。checksum/RMSは全配列版では測定4秒全体、再利用版では最後のblockだけを計時後に求める。
別の観測付き試験で、44.1/48/96kHz、6秒+7frame、3数値方針、5処理(bypassを含む)、再利用32/256の90条件を比較した。全音声のto_bitsと、全State/設定のDebug表現が一致した。有限浮動小数点のDebug表示は最短のround-trip表現であり、ここではState中の数値・ring・queue・位置も照合する。性能計時へ観測用の全出力コピーを加えていない。
logs/assets/effects-2026-11-05/dynamics/results/precision-buffer/state-bytes.png
図はコンポーネント本体と所有heapの合計で、共通入出力配列は別。queueはusize添字を含むため、f32化しても全領域が半分になるわけではない。mixedは和の精度を保ちながら履歴サンプルの幅を小さくできる。
短時間126条件、入力生成・評価、長時間全1秒指標と最悪波形窓、長時間のseed・source・binary・結果hash、長時間の図生成、90条件の音声・最終State一致。
固定計画、CLIと長時間試験、型別sourceの生成、原始sourceと生成物のSHA、Comp f64、Comp f32、Limiter f64、Limiter f32、Limiter mixed。元の固定coreはDX04・DX05。生成後にRust stdだけでビルドできる。
python3 precision-buffer/prepare_sources.py
rustc --edition=2024 -C opt-level=3 -C panic=abort -C codegen-units=16 precision-buffer/main.rs -o precision-buffer/dynamics-bench
precision-buffer/dynamics-bench check
precision-buffer/dynamics-bench long-check
python3 analyze_precision_buffer.py
python3 summarize_precision_audio.pyCPU測定前に保存した初期30条件案と全f32の短時間結果、最初の10分結果を保持する。その結果から移動和だけf64の対照を加え、最終36条件/40比較を性能測定前に固定した。固定時metadata。
全短時間波形:
- automation-44100
- automation-48000
- automation-96000
- stereo-44100
- stereo-48000
- stereo-96000
- tone1000-44100
- tone1000-48000
- tone1000-96000
- tone19000-44100
- tone19000-48000
- tone19000-96000
- tone40-44100
- tone40-48000
- tone40-96000
- tone80-44100
- tone80-48000
- tone80-96000
- transient-44100
- transient-48000
- transient-96000
初期の全f32対照を生成したsourceも保存した: main、Comp f64、Comp f32、Limiter f64、Limiter f32、元hash記録。
同じ実行ファイル・条件による3秒burn-inの独立確認を別記録として保存する。以下は初回探索の値である。
36条件をブロック内で無作為化した10ブロック、5秒cooldown、seed2026110506、事前登録40比較をHolm補正した。準備2秒、測定4秒分、burn-inは10ms以上かつ準備+測定1周以上。Input Gainや時定数は上記の同じ基準値で、実効係数も各試行JSONへ保存した。
logs/assets/effects-2026-11-05/dynamics/results/precision-buffer/cpu-precision.png
Compのf32化は22.9〜26.1%短縮、移動和f64のmixed Limiterは全f64に対して8.0〜11.2%短縮した。それぞれ6比較、計12比較が全てHolm補正後も有意だった。全f32 Limiterの時間はさらに小さいが、10分試験の大きい上限超過と合わせて評価する。
| 方式 | f64 再利用256 | f32 再利用256 | mixed 再利用256 |
|---|---|---|---|
| decoupled | 16.0886 | 12.0041 | — |
| rmsafter | 16.3875 | 12.6060 | — |
| box | 8.4935 | 7.1973 | 7.7645 |
| invbox | 8.8693 | 7.4586 | 7.9475 |
単位はns/stereo frame。mixedはLimiterだけを計測した。
logs/assets/effects-2026-11-05/dynamics/results/precision-buffer/cpu-workspace.png
出力領域だけを全配列から256frame再利用へ変えた対比較では、DSPの大幅短縮は観測されなかった。f64の4方式は差を検出せず、f32のdecoupled/Boxでは約0.12〜0.18ns/frame増加した。再利用256→32ではf32のRMS-after/Box/Inverse Boxが約0.11〜0.29ns増加した。小さい出力領域が必ず処理時間も小さくするとは限らない。
全配列版は準備と測定の合計6秒を確保し、f64で4,608,000bytes、f32で2,304,000bytes。そのうち測定区間4秒を計時内に書き込む。256frame再利用は4,096/2,048bytes、32frameでは512/256bytesとなる。入力と状態の進行は同じ。bypassも同じ契約で測定し、DSP時間から差し引かない。
| 比較 | 平均差ns/frame | 対応差95%CI | Holm p |
|---|---|---|---|
| f64.full.decoupled.b256 → f32.full.decoupled.b256 | -4.1842 | [-4.3109, -4.0575] | 2.58e-12 |
| f64.reuse.decoupled.b256 → f32.reuse.decoupled.b256 | -4.0846 | [-4.2137, -3.9555] | 3.69e-12 |
| f64.reuse.decoupled.b32 → f32.reuse.decoupled.b32 | -4.1345 | [-4.1782, -4.0908] | 2.09e-16 |
| f64.full.decoupled.b256 → f64.reuse.decoupled.b256 | +0.0768 | [-0.0594, +0.2130] | 0.6 |
| f64.reuse.decoupled.b256 → f64.reuse.decoupled.b32 | +0.1196 | [-0.0114, +0.2506] | 0.378 |
| f32.full.decoupled.b256 → f32.reuse.decoupled.b256 | +0.1764 | [+0.1341, +0.2187] | 0.00011 |
| f32.reuse.decoupled.b256 → f32.reuse.decoupled.b32 | +0.0697 | [+0.0254, +0.1140] | 0.0675 |
| f64.full.rmsafter.b256 → f32.full.rmsafter.b256 | -3.7985 | [-3.9254, -3.6716] | 5.9e-12 |
| f64.reuse.rmsafter.b256 → f32.reuse.rmsafter.b256 | -3.7815 | [-3.8179, -3.7451] | 9.31e-17 |
| f64.reuse.rmsafter.b32 → f32.reuse.rmsafter.b32 | -3.7724 | [-3.8615, -3.6834] | 2.82e-13 |
| f64.full.rmsafter.b256 → f64.reuse.rmsafter.b256 | +0.1029 | [+0.0123, +0.1936] | 0.256 |
| f64.reuse.rmsafter.b256 → f64.reuse.rmsafter.b32 | +0.1041 | [+0.0311, +0.1771] | 0.104 |
| f32.full.rmsafter.b256 → f32.reuse.rmsafter.b256 | +0.1199 | [+0.0158, +0.2240] | 0.256 |
| f32.reuse.rmsafter.b256 → f32.reuse.rmsafter.b32 | +0.1132 | [+0.0723, +0.1540] | 0.00221 |
| f64.full.box.b256 → f32.full.box.b256 | -1.5225 | [-1.6198, -1.4253] | 1.86e-09 |
| f64.reuse.box.b256 → f32.reuse.box.b256 | -1.2961 | [-1.4027, -1.1896] | 1.61e-08 |
| f64.reuse.box.b32 → f32.reuse.box.b32 | -1.2367 | [-1.4146, -1.0588] | 1.8e-06 |
| f64.full.box.b256 → f64.reuse.box.b256 | -0.1055 | [-0.2181, +0.0071] | 0.378 |
| f64.reuse.box.b256 → f64.reuse.box.b32 | +0.1513 | [-0.0160, +0.3186] | 0.378 |
| f32.full.box.b256 → f32.reuse.box.b256 | +0.1208 | [+0.0517, +0.1900] | 0.0402 |
| f32.reuse.box.b256 → f32.reuse.box.b32 | +0.2108 | [+0.1325, +0.2890] | 0.00253 |
| f64.full.invbox.b256 → f32.full.invbox.b256 | -1.4740 | [-1.5356, -1.4124] | 4.3e-11 |
| f64.reuse.invbox.b256 → f32.reuse.invbox.b256 | -1.4107 | [-1.5407, -1.2807] | 3.99e-08 |
| f64.reuse.invbox.b32 → f32.reuse.invbox.b32 | -1.2136 | [-1.3890, -1.0383] | 1.8e-06 |
| f64.full.invbox.b256 → f64.reuse.invbox.b256 | +0.0272 | [-0.0919, +0.1462] | 0.618 |
| f64.reuse.invbox.b256 → f64.reuse.invbox.b32 | +0.0923 | [-0.0587, +0.2432] | 0.6 |
| f32.full.invbox.b256 → f32.reuse.invbox.b256 | +0.0904 | [+0.0089, +0.1720] | 0.256 |
| f32.reuse.invbox.b256 → f32.reuse.invbox.b32 | +0.2893 | [+0.1526, +0.4261] | 0.0129 |
| f32.full.box.b256 → mixed.full.box.b256 | +0.5579 | [+0.5104, +0.6055] | 2.15e-08 |
| f64.full.box.b256 → mixed.full.box.b256 | -0.9646 | [-1.0469, -0.8823] | 2.15e-08 |
| f32.reuse.box.b256 → mixed.reuse.box.b256 | +0.5672 | [+0.4823, +0.6520] | 2.31e-06 |
| f64.reuse.box.b256 → mixed.reuse.box.b256 | -0.7290 | [-0.8132, -0.6447] | 2.85e-07 |
| f32.reuse.box.b32 → mixed.reuse.box.b32 | +0.5467 | [+0.3951, +0.6984] | 0.000323 |
| f64.reuse.box.b32 → mixed.reuse.box.b32 | -0.6900 | [-0.8572, -0.5227] | 0.000114 |
| f32.full.invbox.b256 → mixed.full.invbox.b256 | +0.4860 | [+0.4468, +0.5252] | 1.4e-08 |
| f64.full.invbox.b256 → mixed.full.invbox.b256 | -0.9880 | [-1.0626, -0.9134] | 8.06e-09 |
| f32.reuse.invbox.b256 → mixed.reuse.invbox.b256 | +0.4889 | [+0.3879, +0.5899] | 3.34e-05 |
| f64.reuse.invbox.b256 → mixed.reuse.invbox.b256 | -0.9218 | [-1.0483, -0.7953] | 1.24e-06 |
| f32.reuse.invbox.b32 → mixed.reuse.invbox.b32 | +0.4210 | [+0.2988, +0.5433] | 0.000437 |
| f64.reuse.invbox.b32 → mixed.reuse.invbox.b32 | -0.7926 | [-0.9324, -0.6528] | 9.16e-06 |
差はcandidate−reference。全試行・検定・実効設定、図表生成。