Skip to content

Lookup table experiment 2026 10 21

odashi edited this page Nov 16, 2026 · 1 revision

数値テーブル参照の比較実験 — 2026-10-21

過去の調査・実験ログです。本文の版・条件・結果は記録当時のものです。分類索引 · 技術資料

128ノートの基本周波数を直接保持する方式と、正弦波の1/4周期を線形補間する方式を実験した。本体への採用は行っていない。

結果の要点

  • ノート周波数はf64×128=1,024 bytes。調律補正0 centのNote On全体が約17.1→8.7nsへ短縮した。周波数計算はNote On時だけなので、定常発音のサンプル生成負荷を直接減らすものではない。
  • 正弦波は1024区間・1025点(8,200 bytes)の場合、32音×7ユニゾン・2段LPFの生成が48kHzで約4.026→3.718µs(約7.6%短縮)、96kHzで約3.766→3.549µs(約5.8%短縮)。2回目も同傾向だった。
  • 正弦波の単位振幅に対する最大絶対誤差は、1024区間で約2.94×10⁻⁷。近似によって実効値も相対約1.96×10⁻⁷小さくなる。
  • 4096区間は誤差をさらに減らすが、容量が32,776 bytesになり、今回の全体計測では1024区間との速度差が小さい。採用候補としては1024区間を先に評価する。
  • 先行実験の非正規化数対策より速度改善は小さい。既存の速度対策計画に追加する候補とする。

対象・環境

  • 対象本体: 8d8b4a2ef9fbc390d780a62ba1c8f5cebe148024(PR #14マージ後)。
  • 実験コード・手順: 8716f92dbc460b0aba26c3503bb02f11db16cafc。
  • Linux x86_64、Intel Core i9-14900K、CPU 0へtasksetで固定。governor=powersave、周波数固定なし。
  • Rust 1.99.1、LLVM 23.1.1、opt-level=3、panic=abort、codegen-units=16。LTO/target-cpu=nativeの追加なし。
  • f64テーブル。初期化を測定外で行う。音源への差し替え実験では同じRust実行環境で生成した定数配列を使用する。テーブルは全Voice共通の読み取り専用データ。
  • 4096操作のウォームアップ後、20ms以上×7バッチの最小・中央値・最大を記録。全ケースを2回実施し、CPU計測は直列実行。以下の表は1回目の中央値。
  • 単体計測のバッチ平均の最大/最小差は最大約6.7%、音源全体の計測は約1%以内。最小/最大は個々の操作の最悪遅延ではない。基準ループは約0.467nsで、結果から減算していない。
  • 通常の浮動小数点設定で実施し、FTZ/DAZを変更しない。生成はsustain中で、減衰後の非正規化数を測る条件ではない。

ノートの基本周波数

0〜127の全ノートについて 440 * 2^((note - 69)/12) を直接保持する。調律補正0 centならその値を返し、非ゼロなら table[note] * 2^(cent/1200) とする。非ゼロ補正の指数計算は残る。

「tuned」は−100〜100 centを0.1刻みで巡回(0も含む)、「mixed」は8回に1回が+17.5 cent、残りが0。単体はf64の補正、Note On全体は本体APIと同じf32の補正を使用する。

単体条件 直接式 ns/回 テーブル ns/回
zero 3.484 0.923
tuned 4.567 3.897
mixed 3.421 1.179
Note On全体(48kHz設定、32枠) 直接式 ns/回 テーブル ns/回
zero 17.141 8.724
tuned 17.073 10.000

補正0 centでは全128値が同環境の元の式と完全一致。全128ノート×−100〜100 centの補正走査では最大相対誤差1.11×10⁻¹⁵、最大音程差1.93×10⁻¹² cent未満だった。指数式の分解による丸め差を含む。全有限f32の補正範囲、極端な値のoverflow/underflow境界は未検証で、採用時には元の受理・拒否条件の確認が必要。

正弦波の1/4周期テーブル

sin(π/2 * i/N)をi=0..Nで保持し、位相を象限ごとに反転・符号反転して第1象限へ写像する。隣接2点を線形補間し、頂点は最終区間の補間係数1として処理する。現在のf64位相更新は変更しない。

誤差は全周期1,048,613点で直接sinと比較。分母をテーブル格子と一致させず、0・1/4・1/2・3/4・1周期境界の直前直後も定義域内で確認した。

1/4周期の区間数 点数 容量 bytes 最大絶対誤差 RMS誤差 実効値の相対変化
64 65 520 7.5292e-05 3.8884e-05 -5.0198e-05
256 257 2056 4.7062e-06 2.4303e-06 -3.1375e-06
1024 1025 8200 2.9414e-07 1.5189e-07 -1.9609e-07
4096 4097 32776 1.8383e-08 9.4932e-09 -1.2256e-08

この誤差は単位振幅の波形に対する値。1024区間の実効値変化をRMS=0.5へ当てはめると約0.499999902となる。本実験では振幅補正を追加していない。誤差の測定は聴感評価やTHDの測定ではなく、誤差がすべて雑音になるとも限らない。

単体方式 全位相巡回 ns/回 440Hzの位相更新込み ns/回
direct 4.755 6.108
table64 4.400 5.668
table256 4.319 5.653
table1024 4.320 5.656
table4096 4.360 5.649

全位相巡回では65536点を4051点ずつ進む。440Hzでは48kHzの位相増分とfractを含める。いずれもテーブルは温まった状態で、キャッシュ競合の強いDAW環境を再現するものではない。

音源へ差し替えた場合

target/以下へ本体をコピーし、周波数の式と正弦波生成の式だけを置換して同じハーネスで最適化ビルドした。元の本体ファイルは変更しない。実際のOscillator→Filter→Voice合成を通す。

サイン波、Detune=30 cent、LowPass2、Cutoff=+1200 cent、Q=1/√2、既定AHDSR、velocity=1。MIDI 48から必要数のノートを発音し1秒進めた後のsustainを測定。サンプル生成のみで、パラメーターキューや毎サンプルの設定再配送は含まない。

方式 48kHz 1音×1 ns 48kHz 1音×7 ns 48kHz 32音×7 ns 96kHz 32音×7 ns 48kHz 32音×7 短縮率
original 40.666 112.577 4025.566 3766.112 0.00%
notes 40.910 112.764 4016.439 3756.764 0.23%
sine64 39.502 107.023 3763.255 3568.899 6.52%
sine256 39.431 106.230 3734.370 3571.232 7.23%
sine1024 39.450 105.925 3718.062 3549.333 7.64%
sine4096 39.493 105.803 3711.297 3551.411 7.81%
both1024 39.630 105.973 3665.735 3504.420 8.94%

notesはノート表だけ、sineNは正弦波表だけ、both1024は両方を適用。ノート表だけでも定常発音の時間に小差があり、両方を適用すると正弦波表だけより速い結果になった。しかし定常発音中にノート表参照はないため、その差を周波数表のサンプル処理上の直接効果とは解釈しない。ビルドごとの最適化・コード配置等の影響を含む測定結果。

2回目の32音×7(48kHz)はoriginal=4025.137ns、sine1024=3715.894ns、both1024=3668.109ns。同じ実行バイナリで再現した比較であり、異なるコンパイラ・CPUでの保証ではない。

出力比較は48/96kHz×1音1ユニゾン・1音7ユニゾン・32音7ユニゾンの6条件、各8192サンプル。全出力が有限値。ノート表だけの出力は全サンプルで完全一致(この出力比較の調律補正は0)。1024区間の正弦波表の32音×7・48kHzでは最大絶対差1.1481×10⁻⁶、RMS差3.9202×10⁻⁷、基準信号のRMSに対する差1.9621×10⁻⁷だった。

他のテーブル化候補(今回未測定)

候補 容量例(f64) 条件・優先度
Unisonの1/√N 7個、56 bytes N=1〜7の離散値なので補間不要。Detune=0で実効1ボイスとなる補正を維持する。小さい変更で検証しやすい。設定変更時だけ計算する方式とも比較する。
Cutoffのノート相対倍率 1201個、9608 bytes 現在の−2400〜9600 cent・10 cent刻みを直接保持できる。現在はResonance等の変更でも各Voiceで倍率を再計算するため候補。ただし変更された入力だけを更新する改善と効果を比較する。将来の連続エンベロープをこの刻みへ量子化しない。
Detuneのcent→周波数比 −100〜100 centを1 cent刻みなら201個、1608 bytes ユニゾンの各位置とオートメーションは実数centになるため、整数値の直接参照だけでは仕様を満たさない。補間と音程誤差の検証が必要。定常時の計算結果保持を先に比較する。
フィルタのtan(πf/fs) 分割数に依存 Qと独立した周波数項が候補。ただし上限0.49fs付近で変化が急であり、係数誤差だけでなく応答・安定性の検証が必要。定常係数の保持より優先度は低い。
UI時間tick→ms 372個、2976 bytes UIの整数tickには直接参照を使える。ただしホストの連続値をこの表へ丸めてはならない。主に表示・操作時のため音声処理高速化の優先度は低い。

三角波・矩形波・ノコギリ波と線形AHDSRは現在の算術が単純なため、まずテーブル化対象を上記へ絞る。

テーブル参照と線形補間を組み合わせる方式はArmの公式DSPドキュメントにも記載されている。本実験の1/4周期・f64実装と数値テーブルは独自に作成した。

再現・限界

python3 benchmarks/run-lookups.py --cpu 0

生成物はtarget/lookup-experiment/へ出力する。Windows等でCPU固定を行わない場合は--cpu 0を省略する。Windows/MSVC、実DAW、多数の別プラグインとのキャッシュ競合、実時間処理の最悪遅延、聴感・THDは未測定。

本体の変更0行。実験コードと手順375行追加。依存関係・CI設定の変更なし。rustcの警告をエラー化した最適化ビルド、rustfmt、Python構文確認、7構成×2レート×2回の全計測と出力比較を完了した。

全生データ / 先行DSP速度検証

Clone this wiki locally