Skip to content

Distortion ADAA LUT 2026 11 01

odashi edited this page Nov 16, 2026 · 1 revision

ADAAの原始関数テーブル化(2026-11-01)

過去の調査・実験ログです。本文の版・条件・結果は記録当時のものです。分類索引 · 技術資料

Softの原始関数をf64・3次Hermite補間でテーブル化する方式が有望。1024区間・16,400 bytesの共有テーブルで、32 Voice・Unison 7・x4・静的設定時の音源全体の処理時間を約24%短縮した。

対象は 5d4e93ac9fef0513c23b2a2db9ea85764272fbaa のDSPへ、リポジトリ外の実験用コピーで1次ADAAを接続したもの。比較対象は同じADAAの原始関数を直接計算する版。ADAAそのものを有効化する前後の比較ではない。

計算方式

プリゲイン済み入力をu、クリップ関数をf、原始関数をFとする。1次ADAAは (F(u[n])−F(u[n−1]))/(u[n]−u[n−1])。前回のFを保持するため、新たなF評価は各内部サンプル・各チャンネルにつき1回。テーブル化で超越関数の直接評価を置き換えるが、差分と除算は残る。

Softでは f(u)=tanh(u)、F(u)=log(cosh(u))。直接計算版はオーバーフローを避けて abs(u)+log1p(exp(−2abs(u)))−log(2) を使用する。

Fは偶関数なので、0〜16を均等にN区間へ分割し、N+1点の [F(u), tanh(u)] をf64で保持する。全Voice・左右チャンネルで同一の読み取り専用テーブルを共有する。abs(u)>16は F(16)+abs(u)−16 として連続な直線へ延長する。入力を16でクリップする方式ではない。端点以降のFの近似誤差は理論上約1.3e−14以下。

区間幅h、局所位置t=(u−u_i)/hとして、Hermite補間は以下。

b = h*d0
c = 3*(F1-F0) - h*(2*d0+d1)
d = 2*(F0-F1) + h*(d0+d1)
F_approx = F0 + t*(b + t*(c + t*d))
f_approx = (b + t*(2*c + 3*t*d))/h

負の入力ではFを偶対称、fを奇対称に戻す。入力差の絶対値が 1e−6*(1+max(abs(u),abs(previous_u))) 以下なら、同じ補間多項式の中点微分値f_approxを返す。これによりゼロ除算・桁落ちを避け、近接時の処理からもtanhの直接計算を省く。

単純な線形補間ではFの傾きが区間内で一定となり、元のクリップ関数を階段状に近似してしまう。特にゼロ近傍の微小入力で相対誤差が大きい。今回の線形版では近接時も補間区間の傾きを使用し、u=0だけ0とした。

Hardは abs(u)<=1 ならF=u²/2、それ以外はF=abs(u)−1/2。既に簡単な式なのでテーブル化の優先度は低い。ADAAの差分も区間ごとの面積として安定に評価できる。

数値誤差

基準はf64の直接計算版。Fとその微分は−16〜16の1,000,001点と範囲外の6点で比較した。ADAAは固定乱数seed=546の200,000対(前値−20〜20、差分の大きさ1e−12〜10)とゼロ近傍・±16・±1e6の境界5対を比較した。以下は測定点での最大絶対差であり、全実数域の保証値ではない。

方式 テーブル容量 Fの最大差 微分の最大差 ADAA出力の最大差
linear1024 16,400 bytes 3.052e-05 7.803e-03 7.812e-03
cubic256 4,112 bytes 7.912e-08 3.900e-06 3.899e-06
cubic512 8,208 bytes 4.962e-09 4.889e-07 4.889e-07
cubic1024 16,400 bytes 3.104e-10 6.116e-08 6.116e-08

線形版の実験実装も同じ2列テーブルを用いた。線形版では傾き列を省略できるが、精度上の理由で採用候補から外れる。

出力・エイリアス比較

48 kHz、FFT 32768点、約80 Hz〜20 kHzの68周波数(最寄り奇数ビン)、x1/x2/x4、Mix=100%。通常入力はピーク1/√2・Gain +12/+48 dB、微小入力はピーク1e−4・Gain 0 dB。256サンプルの初期過渡を除外。5方式×3設定×3倍率×68周波数=3,060条件。全出力は有限だった。

エイリアス指標は20 Hz〜20 kHzの正規奇数次高調波以外のFFT電力を出力基本波電力で割ったdBc。正規高調波と同一ビンに重なる折り返しはこの指標から除外される。RMS誤差は同じタイミングの直接計算ADAA出力との差を基準出力のRMSで正規化した値。

方式 +12 dB時の最大RMS誤差比 +48 dB時の最大RMS誤差比 微小入力時の最大RMS誤差比
linear1024 -72.16 dB -122.57 dB 47.00 dB
cubic256 -123.10 dB -175.91 dB -63.78 dB
cubic512 -151.81 dB -200.01 dB -75.82 dB
cubic1024 -172.94 dB -224.15 dB -87.89 dB

微小入力では絶対誤差も併せて見る必要がある。cubic1024の微小入力時の最大サンプル差は4.15e−9。近接判定付近の直接計算版自体の丸め誤差も差分に含まれる。

約10,000.488 Hz・x4のエイリアス比較:

方式 Gain +12 dB Gain +48 dB
analytic -92.743861 dBc -47.022499 dBc
linear1024 -92.683871 dBc -47.022502 dBc
cubic256 -92.743828 dBc -47.022499 dBc
cubic512 -92.743864 dBc -47.022499 dBc
cubic1024 -92.743862 dBc -47.022499 dBc

音源全体の処理時間

Linux x86_64、Intel Core i9-14900K、CPU 0へ固定、rustc 1.99.1、edition 2024、opt-level=3。48 kHz、Saw、Unison 7、Detune 25 cent、Width 100%、LP2、Cutoff +1200 cent、Q=1、Phase Zero、Soft、Gain +12 dB、Mix 100%。同時ノートはMIDI 48からVoice数分。1 Voiceおよび32 Voice、各倍率を計測した。

各条件2,000サンプルのウォームアップ後24,000ステレオサンプルを生成。5回の中央値を取得し、実行順をローテーションした3ラウンドの中央値を掲載。自動変化条件は20 ms周期三角波でDetune、Q、Gain、Mixを各サンプル更新する。同一CPU上での相対比較であり、ホスト全体のCPUメーター値ではない。

Voice数 自動変化 倍率 直接計算 cubic512 cubic1024 cubic1024短縮率
1 なし x1 0.076 µs 0.068 µs 0.066 µs 12.8%
1 なし x2 0.148 µs 0.126 µs 0.127 µs 14.6%
1 なし x4 0.188 µs 0.150 µs 0.150 µs 20.0%
1 あり x1 0.198 µs 0.188 µs 0.185 µs 6.6%
1 あり x2 0.285 µs 0.258 µs 0.257 µs 10.0%
1 あり x4 0.332 µs 0.295 µs 0.294 µs 11.5%
32 なし x1 2.471 µs 2.044 µs 2.068 µs 16.3%
32 なし x2 4.010 µs 3.267 µs 3.271 µs 18.4%
32 なし x4 5.237 µs 3.993 µs 3.988 µs 23.9%
32 あり x1 2.996 µs 2.656 µs 2.653 µs 11.4%
32 あり x2 4.542 µs 3.904 µs 3.896 µs 14.2%
32 あり x4 5.611 µs 4.546 µs 4.545 µs 19.0%

512区間と1024区間の速度差は小さく、今回の候補では精度に優れる1024区間を推奨する。Softの超越関数評価を除去する効果は音源全体でも確認できた。

参考資料と測定データ

原始関数のLUT近似をADAAへ適用する手法は Gabrielli/Squartini, DAFx25 でも検証されている。論文は非線形関数のLUTを数値積分して原始関数を得る方式。今回の実験は既知のlog(cosh)を直接サンプリングし、微分値を使うHermite補間を採用した。

Clone this wiki locally