Repository navigation
Optimization 12h R21 master rounding grid 2026 11 14
odashi edited this page Nov 16, 2026
·
1 revision
Master VolumeのpowfをLinuxのexp2/Windowsのexpへ置換すると設定操作を短縮できるが、大振幅出力でfloat32の隣接値へ丸め分かれる可能性を確認する。評価基準の解釈訂正に従い、RMS精度条件に合格と判定する。f64差とRMS差は−80 dBFS未満で、最大絶対差だけが2条件で1e−4を超えた。可聴差を示すものではない。
- 固定mainの音源で、32同時発音・同位相の3 Sine・各Osc +12dB・Q=10、LP2/HP2/BP2の固定cutoffと29sampleごとのcutoff変更、計6条件を生成する。Master=0dBとして取り出した値を再利用する。
- 48kHz・127sample/block・1秒。左右が同一なので左48,000sampleを用いる。音源が実際に生成した大振幅を使用し、外部で入力の増幅はしない。
- GUIの−59.9〜+12.0dB・0.1dB刻み720値と、固定seedから得る正規化10,000値、計10,720設定を比較する。正規化→dB→gain→sample乗算→f32変換の順序は本体と同じ。
- LinuxとWindows MSVC/Wine11でそれぞれ元波形を生成し、計6,174,720,000組の比較。測定lockは共有、CPU16〜31へ固定し、速度測定とは同時実行しない。
- meanは設定ごとに48,000sampleで求め、下表にはそのRMSの最大値を示す。
| 環境 | 条件 | f32最大差 | f32最悪RMS | 1e−4超sample数 |
|---|---|---|---|---|
| linux | lp2-fixed | 7.62939453e-06 | 3.48232624e-08 | 0 |
| linux | hp2-fixed | 1.52587891e-05 | 6.96465247e-08 | 0 |
| linux | bp2-fixed | 3.81469727e-06 | 1.74116312e-08 | 0 |
| linux | lp2-jumps | 3.05175781e-05 | 1.39293049e-07 | 0 |
| linux | hp2-jumps | 0.000122070312 | 5.57172198e-07 | 1 |
| linux | bp2-jumps | 1.90734863e-06 | 8.70581559e-09 | 0 |
| windows | lp2-fixed | 1.52587891e-05 | 6.96465247e-08 | 0 |
| windows | hp2-fixed | 7.62939453e-06 | 3.48232624e-08 | 0 |
| windows | bp2-fixed | 6.10351562e-05 | 2.78586099e-07 | 0 |
| windows | lp2-jumps | 7.62939453e-06 | 3.48232624e-08 | 0 |
| windows | hp2-jumps | 1.52587891e-05 | 6.96465247e-08 | 0 |
| windows | bp2-jumps | 0.0009765625 | 4.45737758e-06 | 1 |
最大反例はWindowsのBP2・cutoff変更で0.0009765625(−60.21dBFS)、その設定のRMSは4.4574e−6(−107.02dBFS)。LinuxはHP2・cutoff変更で0.0001220703125(−78.27dBFS)、RMS5.5717e−7(−125.08dBFS)。元出力が0dBFSを大きく超える検証条件であり、出力の正規化や時間合わせを行わず絶対差を評価した。
当初は追加peak条件でMasterの換算をpowfへ戻したが、RMSを主判定とする解釈訂正によりA16を統合候補へ戻す。以前の有限ケースでの「f32完全一致」はその測定範囲での結果であり、全入力での一致を意味しない。
- 音量設定と波形の組合せ検証。
- master-rounding-grid.rs。
- run-master-rounding-grid.py。
- prepare-master-rounding-grid.py。
- audio-main.rs。
- prepare-master-rounding-report.py。
- prepare-rms-policy.py。
- 公開用ソースhash。import先・入出力の作業用ルートを相対表記またはプレースホルダーへ置き換え、実測時の元ソースhashは測定JSONへ保存。