Skip to content

Optimization 12h Exp audio 2026 11 14

odashi edited this page Nov 16, 2026 · 1 revision

音量・Compressorの指数換算と出力誤差

過去の調査・実験ログです。本文の版・条件・結果は記録当時のものです。分類索引 · 技術資料

調査全体

改善すべき課題

指数関数の実行時間はプラットフォームによって異なる。MasterのdB換算とCompressorのゲイン復元について、同値な指数式への変更が音源出力の誤差条件を満たすかを調べた。速度はMaster exp2、Master exp Linux、Windows、Compressorの個別実験を参照。

固定mainはd937f28ad00e755a1aefd7c0c01dd967464a630a。変更候補のcommit・source hash・binary hash・コンパイル条件は各JSONに保持した。WindowsはMSVC生成コードをWine 11で実行した。

条件

44.1/48/96 kHzで、同時刻の左右出力をfloat64とfloat32について直接比較した。時間・ゲイン・位相の合わせ直しは行わない。標準123条件、波形・位相変調・フィルタ等の追加348条件、全スロットの各効果270条件は各4秒。大振幅の同位相24条件とMaster連続変更90条件は各3秒。初期乱数seedだけを双方で揃えた。

MasterのLinux比較は標準123+追加348+同位相24+音量変更90=585条件、Windowsは音量変更90条件。CompressorのWindows比較は標準123+追加348+全スロット270=741条件。

結果

指数換算の音声誤差

候補・実行環境 条件数 f64最大絶対差 f64誤差RMS最大 f32最大絶対差 f32誤差RMS最大 合格数
Master exp2 / Linux 585 4.365574569e-11 9.913941289e-12 0 0 585/585
Master exp / Linux 585 4.365574569e-11 9.911725252e-12 0 0 585/585
Master exp / Windows 90 4.365574569e-11 9.336298692e-12 0 0 90/90
Compressor exp / Windows 741 8.881784197e-16 4.299538808e-17 0 0 741/741

この表の条件では最大絶対差・誤差RMSとも1e−4以下で、float32出力は全サンプルが一致した。図のexactは差が厳密に0(−∞ dBFS)を示す。ただしMasterについては、追加の大振幅float32丸め検証で最大絶対差だけが1e−4を超えた。RMSは上限内であり、評価基準の解釈訂正に従ってA16を統合候補へ戻す。Compressorについても、追加の2段CompressorのKnee境界検証で誤差条件を満たさない反例が見つかった。後段Knee≈1e−200の555129条件中2047条件が絶対差1e−4を超え、最大差は0.039805だった。さらに128 sampleのうち96 sampleを一定入力とする連続波形でもRMSが0.00642759(−43.84 dBFS)となり、RMS主判定を超えた。E60のWindows exp置換は不採用とし、既存のKnee境界の式は今回変更しない。

測定データ

再現資料

標準演奏と追加条件は共通ハーネスを使用。次のファイルは同位相の大振幅試験と音量変更試験の条件を再現する。

Clone this wiki locally