Skip to content

Effects Dynamics Precision Buffer 2026 11 05

odashi edited this page Nov 16, 2026 · 1 revision

Compressor / Limiter: 数値型と出力バッファ

過去の調査・実験ログです。本文の版・条件・結果は記録当時のものです。分類索引 · 技術資料

調査索引 / Compressor / Limiter

同じ処理式をf32へ置き換える場合、短時間の波形差だけでは安全性を判断できない。10分の連続試験で、移動和の丸め誤差が蓄積し、逆振幅Limiterのサンプル上限が約52%超過した。移動和だけをf64に保つ対照では、この試験の超過を出力f32の丸め程度まで抑えられた。

対象と数値条件

C6 smooth-decoupled、RMS IIR max-after、Limiter Box、Inverse Boxを比較する。Limiterの先読みは5ms。Compressorはthreshold−18dB、ratio4、knee6dB、attack10ms、release100ms、makeup0。Limiterはceiling−1dB、Input Gain+6dB、release100msを基準とする。

  • f64: 検出、係数、履歴、音声の計算をf64とする。
  • f32: 同じ式・分岐をf32で計算する。
  • mixed: Limiterの履歴サンプルと包絡はf32、移動和だけf64。新旧値をそれぞれf64へ変換してから差を取り、和を更新する。

全方式へ同じf32量子化済み入力を渡し、f64参照ではその値を拡張する。入力の量子化誤差を内部演算の差に混ぜない。数値型ごとの係数・超越関数の丸め差は比較に含む。

短時間の誤差

44.1/48/96kHzで40/80/1000/19000Hz正弦、孤立peakとburst、左右の異なる周波数、設定段差を各3秒処理した。Compressor2方式×f32、Limiter2方式×f32/mixedで126条件。全出力とgainは有限だった。

logs/assets/effects-2026-11-05/dynamics/results/precision-buffer/numerical-error.png

方式 数値方針 最大絶対差 差のdBFS
decoupled f32 0.000120677424 -78.37
rmsafter f32 0.0001095451 -79.21
box f32 0.000284252394 -70.93
box mixed 0.00010274183 -79.77
invbox f32 0.000137671031 -77.22
invbox mixed 8.33953924e-05 -81.58

10分後の違い

48kHz、左右73.17/83.39Hzの正弦に固定seedのnoiseを混ぜ、1秒ごとに振幅を4と0.1へ切り替える。2880万frameを連続処理し、各1秒の最大差・最大peak、最悪時刻、最悪差の前後1025sampleを保存した。上限の基準はf64で表した−1dBの振幅である。

logs/assets/effects-2026-11-05/dynamics/results/precision-buffer/long-drift.png

Limiter 方針 最大絶対差 RMS差 最大ceiling超過 最大差の時刻
box f32 0.00361724828 0.000591068825 0.125512374% 599.660292s
box f32-sum64 5.65112387e-05 8.69139757e-06 3.348741e-06% 415.453542s
invbox f32 0.465334445 0.105695557 52.2113835% 598.263167s
invbox f32-sum64 4.31921915e-05 9.70458735e-06 3.348741e-06% 143.814312s

logs/assets/effects-2026-11-05/dynamics/results/precision-buffer/long-worst-waveforms.png

逐次移動和 sum += new-old は過去の丸め誤差を消す機構を持たない。和だけf64の対照により、ここでは長時間の大きいドリフトが解消した。hybridの最大差はBox約5.65×10⁻⁵、Inverse Box約4.32×10⁻⁵で、包絡や係数のf32計算による差が残る。最大ceiling相対超過3.35×10⁻⁸は、今回の上限振幅をf32で表す差と同程度だった。これは記載した入力・時間での結果であり、全入力・任意時間の浮動小数点誤差上界とは区別する。

したがって、全f32の移動和をそのままLimiterへ採用する判断はできない。f32を使う際は、検出やゲインの数値精度に加え、累積する和の型を個別に選ぶ必要がある。

出力領域の再利用と状態

性能試験は入力を連続した6秒分保持し、準備2秒+測定4秒を処理する。出力は全区間の配列、256frame再利用、32frame再利用の3構成を比較する。再利用版でも入力位置と処理Stateを継続し、各callの出力をblack_boxする。checksum/RMSは全配列版では測定4秒全体、再利用版では最後のblockだけを計時後に求める。

別の観測付き試験で、44.1/48/96kHz、6秒+7frame、3数値方針、5処理(bypassを含む)、再利用32/256の90条件を比較した。全音声のto_bitsと、全State/設定のDebug表現が一致した。有限浮動小数点のDebug表示は最短のround-trip表現であり、ここではState中の数値・ring・queue・位置も照合する。性能計時へ観測用の全出力コピーを加えていない。

状態容量

logs/assets/effects-2026-11-05/dynamics/results/precision-buffer/state-bytes.png

図はコンポーネント本体と所有heapの合計で、共通入出力配列は別。queueはusize添字を含むため、f32化しても全領域が半分になるわけではない。mixedは和の精度を保ちながら履歴サンプルの幅を小さくできる。

再現資料

短時間126条件、入力生成・評価、長時間全1秒指標と最悪波形窓、長時間のseed・source・binary・結果hash、長時間の図生成、90条件の音声・最終State一致。

固定計画、CLIと長時間試験、型別sourceの生成、原始sourceと生成物のSHA、Comp f64、Comp f32、Limiter f64、Limiter f32、Limiter mixed。元の固定coreはDX04・DX05。生成後にRust stdだけでビルドできる。

python3 precision-buffer/prepare_sources.py
rustc --edition=2024 -C opt-level=3 -C panic=abort -C codegen-units=16 precision-buffer/main.rs -o precision-buffer/dynamics-bench
precision-buffer/dynamics-bench check
precision-buffer/dynamics-bench long-check
python3 analyze_precision_buffer.py
python3 summarize_precision_audio.py

CPU測定前に保存した初期30条件案と全f32の短時間結果、最初の10分結果を保持する。その結果から移動和だけf64の対照を加え、最終36条件/40比較を性能測定前に固定した。固定時metadata。

全短時間波形:

初期の全f32対照を生成したsourceも保存した: main、Comp f64、Comp f32、Limiter f64、Limiter f32、元hash記録。

CPU費用(初回10ms以上のburn-in)

同じ実行ファイル・条件による3秒burn-inの独立確認を別記録として保存する。以下は初回探索の値である。

36条件をブロック内で無作為化した10ブロック、5秒cooldown、seed2026110506、事前登録40比較をHolm補正した。準備2秒、測定4秒分、burn-inは10ms以上かつ準備+測定1周以上。Input Gainや時定数は上記の同じ基準値で、実効係数も各試行JSONへ保存した。

logs/assets/effects-2026-11-05/dynamics/results/precision-buffer/cpu-precision.png

Compのf32化は22.9〜26.1%短縮、移動和f64のmixed Limiterは全f64に対して8.0〜11.2%短縮した。それぞれ6比較、計12比較が全てHolm補正後も有意だった。全f32 Limiterの時間はさらに小さいが、10分試験の大きい上限超過と合わせて評価する。

方式 f64 再利用256 f32 再利用256 mixed 再利用256
decoupled 16.0886 12.0041 —
rmsafter 16.3875 12.6060 —
box 8.4935 7.1973 7.7645
invbox 8.8693 7.4586 7.9475

単位はns/stereo frame。mixedはLimiterだけを計測した。

logs/assets/effects-2026-11-05/dynamics/results/precision-buffer/cpu-workspace.png

出力領域だけを全配列から256frame再利用へ変えた対比較では、DSPの大幅短縮は観測されなかった。f64の4方式は差を検出せず、f32のdecoupled/Boxでは約0.12〜0.18ns/frame増加した。再利用256→32ではf32のRMS-after/Box/Inverse Boxが約0.11〜0.29ns増加した。小さい出力領域が必ず処理時間も小さくするとは限らない。

全配列版は準備と測定の合計6秒を確保し、f64で4,608,000bytes、f32で2,304,000bytes。そのうち測定区間4秒を計時内に書き込む。256frame再利用は4,096/2,048bytes、32frameでは512/256bytesとなる。入力と状態の進行は同じ。bypassも同じ契約で測定し、DSP時間から差し引かない。

比較 平均差ns/frame 対応差95%CI Holm p
f64.full.decoupled.b256 → f32.full.decoupled.b256 -4.1842 [-4.3109, -4.0575] 2.58e-12
f64.reuse.decoupled.b256 → f32.reuse.decoupled.b256 -4.0846 [-4.2137, -3.9555] 3.69e-12
f64.reuse.decoupled.b32 → f32.reuse.decoupled.b32 -4.1345 [-4.1782, -4.0908] 2.09e-16
f64.full.decoupled.b256 → f64.reuse.decoupled.b256 +0.0768 [-0.0594, +0.2130] 0.6
f64.reuse.decoupled.b256 → f64.reuse.decoupled.b32 +0.1196 [-0.0114, +0.2506] 0.378
f32.full.decoupled.b256 → f32.reuse.decoupled.b256 +0.1764 [+0.1341, +0.2187] 0.00011
f32.reuse.decoupled.b256 → f32.reuse.decoupled.b32 +0.0697 [+0.0254, +0.1140] 0.0675
f64.full.rmsafter.b256 → f32.full.rmsafter.b256 -3.7985 [-3.9254, -3.6716] 5.9e-12
f64.reuse.rmsafter.b256 → f32.reuse.rmsafter.b256 -3.7815 [-3.8179, -3.7451] 9.31e-17
f64.reuse.rmsafter.b32 → f32.reuse.rmsafter.b32 -3.7724 [-3.8615, -3.6834] 2.82e-13
f64.full.rmsafter.b256 → f64.reuse.rmsafter.b256 +0.1029 [+0.0123, +0.1936] 0.256
f64.reuse.rmsafter.b256 → f64.reuse.rmsafter.b32 +0.1041 [+0.0311, +0.1771] 0.104
f32.full.rmsafter.b256 → f32.reuse.rmsafter.b256 +0.1199 [+0.0158, +0.2240] 0.256
f32.reuse.rmsafter.b256 → f32.reuse.rmsafter.b32 +0.1132 [+0.0723, +0.1540] 0.00221
f64.full.box.b256 → f32.full.box.b256 -1.5225 [-1.6198, -1.4253] 1.86e-09
f64.reuse.box.b256 → f32.reuse.box.b256 -1.2961 [-1.4027, -1.1896] 1.61e-08
f64.reuse.box.b32 → f32.reuse.box.b32 -1.2367 [-1.4146, -1.0588] 1.8e-06
f64.full.box.b256 → f64.reuse.box.b256 -0.1055 [-0.2181, +0.0071] 0.378
f64.reuse.box.b256 → f64.reuse.box.b32 +0.1513 [-0.0160, +0.3186] 0.378
f32.full.box.b256 → f32.reuse.box.b256 +0.1208 [+0.0517, +0.1900] 0.0402
f32.reuse.box.b256 → f32.reuse.box.b32 +0.2108 [+0.1325, +0.2890] 0.00253
f64.full.invbox.b256 → f32.full.invbox.b256 -1.4740 [-1.5356, -1.4124] 4.3e-11
f64.reuse.invbox.b256 → f32.reuse.invbox.b256 -1.4107 [-1.5407, -1.2807] 3.99e-08
f64.reuse.invbox.b32 → f32.reuse.invbox.b32 -1.2136 [-1.3890, -1.0383] 1.8e-06
f64.full.invbox.b256 → f64.reuse.invbox.b256 +0.0272 [-0.0919, +0.1462] 0.618
f64.reuse.invbox.b256 → f64.reuse.invbox.b32 +0.0923 [-0.0587, +0.2432] 0.6
f32.full.invbox.b256 → f32.reuse.invbox.b256 +0.0904 [+0.0089, +0.1720] 0.256
f32.reuse.invbox.b256 → f32.reuse.invbox.b32 +0.2893 [+0.1526, +0.4261] 0.0129
f32.full.box.b256 → mixed.full.box.b256 +0.5579 [+0.5104, +0.6055] 2.15e-08
f64.full.box.b256 → mixed.full.box.b256 -0.9646 [-1.0469, -0.8823] 2.15e-08
f32.reuse.box.b256 → mixed.reuse.box.b256 +0.5672 [+0.4823, +0.6520] 2.31e-06
f64.reuse.box.b256 → mixed.reuse.box.b256 -0.7290 [-0.8132, -0.6447] 2.85e-07
f32.reuse.box.b32 → mixed.reuse.box.b32 +0.5467 [+0.3951, +0.6984] 0.000323
f64.reuse.box.b32 → mixed.reuse.box.b32 -0.6900 [-0.8572, -0.5227] 0.000114
f32.full.invbox.b256 → mixed.full.invbox.b256 +0.4860 [+0.4468, +0.5252] 1.4e-08
f64.full.invbox.b256 → mixed.full.invbox.b256 -0.9880 [-1.0626, -0.9134] 8.06e-09
f32.reuse.invbox.b256 → mixed.reuse.invbox.b256 +0.4889 [+0.3879, +0.5899] 3.34e-05
f64.reuse.invbox.b256 → mixed.reuse.invbox.b256 -0.9218 [-1.0483, -0.7953] 1.24e-06
f32.reuse.invbox.b32 → mixed.reuse.invbox.b32 +0.4210 [+0.2988, +0.5433] 0.000437
f64.reuse.invbox.b32 → mixed.reuse.invbox.b32 -0.7926 [-0.9324, -0.6528] 9.16e-06

差はcandidate−reference。全試行・検定・実効設定、図表生成。

Clone this wiki locally