Skip to content

Optimization 12h R21 master rounding grid 2026 11 14

odashi edited this page Nov 16, 2026 · 1 revision

R21:Master指数換算とfloat32丸め境界

過去の調査・実験ログです。本文の版・条件・結果は記録当時のものです。分類索引 · 技術資料

調査全体

改善対象と判断

Master VolumeのpowfをLinuxのexp2/Windowsのexpへ置換すると設定操作を短縮できるが、大振幅出力でfloat32の隣接値へ丸め分かれる可能性を確認する。評価基準の解釈訂正に従い、RMS精度条件に合格と判定する。f64差とRMS差は−80 dBFS未満で、最大絶対差だけが2条件で1e−4を超えた。可聴差を示すものではない。

音量換算の最大誤差

条件

  • 固定mainの音源で、32同時発音・同位相の3 Sine・各Osc +12dB・Q=10、LP2/HP2/BP2の固定cutoffと29sampleごとのcutoff変更、計6条件を生成する。Master=0dBとして取り出した値を再利用する。
  • 48kHz・127sample/block・1秒。左右が同一なので左48,000sampleを用いる。音源が実際に生成した大振幅を使用し、外部で入力の増幅はしない。
  • GUIの−59.9〜+12.0dB・0.1dB刻み720値と、固定seedから得る正規化10,000値、計10,720設定を比較する。正規化→dB→gain→sample乗算→f32変換の順序は本体と同じ。
  • LinuxとWindows MSVC/Wine11でそれぞれ元波形を生成し、計6,174,720,000組の比較。測定lockは共有、CPU16〜31へ固定し、速度測定とは同時実行しない。
  • meanは設定ごとに48,000sampleで求め、下表にはそのRMSの最大値を示す。
環境 条件 f32最大差 f32最悪RMS 1e−4超sample数
linux lp2-fixed 7.62939453e-06 3.48232624e-08 0
linux hp2-fixed 1.52587891e-05 6.96465247e-08 0
linux bp2-fixed 3.81469727e-06 1.74116312e-08 0
linux lp2-jumps 3.05175781e-05 1.39293049e-07 0
linux hp2-jumps 0.000122070312 5.57172198e-07 1
linux bp2-jumps 1.90734863e-06 8.70581559e-09 0
windows lp2-fixed 1.52587891e-05 6.96465247e-08 0
windows hp2-fixed 7.62939453e-06 3.48232624e-08 0
windows bp2-fixed 6.10351562e-05 2.78586099e-07 0
windows lp2-jumps 7.62939453e-06 3.48232624e-08 0
windows hp2-jumps 1.52587891e-05 6.96465247e-08 0
windows bp2-jumps 0.0009765625 4.45737758e-06 1

最大反例はWindowsのBP2・cutoff変更で0.0009765625(−60.21dBFS)、その設定のRMSは4.4574e−6(−107.02dBFS)。LinuxはHP2・cutoff変更で0.0001220703125(−78.27dBFS)、RMS5.5717e−7(−125.08dBFS)。元出力が0dBFSを大きく超える検証条件であり、出力の正規化や時間合わせを行わず絶対差を評価した。

当初は追加peak条件でMasterの換算をpowfへ戻したが、RMSを主判定とする解釈訂正によりA16を統合候補へ戻す。以前の有限ケースでの「f32完全一致」はその測定範囲での結果であり、全入力での一致を意味しない。

再現資料

Clone this wiki locally