Skip to content

Numeric casts and assembly 2026 10 29

odashi edited this page Nov 16, 2026 · 1 revision

数値型キャスト・条件付きアセンブリ・動作範囲の調査(2026-10-29)

過去の調査・実験ログです。本文の版・条件・結果は記録当時のものです。分類索引 · 技術資料

結論

最も有望なのは正弦波・Detuneテーブルの添字変換。f64→usizeは64ビットの飽和変換となり、実際には0〜1024しか使わない箇所にも大きな値・NaN・負値の処理が残る。

安全なu32経由の変換で32音・7ユニゾンのサイン波を6.3%短縮。既存の内部値域を保証してto_int_unchecked::<i32>()を使う試作は11.9%、Detune変更時は14.5%短縮した。同条件の手書きcvttsd2siは11.7%/14.4%で、Rustの範囲保証付き変換に対する明確な優位はなかった。

入力範囲を毎回確認するアセンブリも有効だが、静的に保証して確認を省く方式の方が速かった。発音時間・音程・対応サンプルレートを新たに制限する前に、既存の内部値域を利用する改善を優先する。

調査対象・方法

  • main d692b8835259369da9c017e27f9e68a002d8b86d。
  • Intel Core i9-14900K、Linux x86_64、Rust 1.99.1 / LLVM 23.1.1。CPU 2に固定。powersave、周波数は固定しない。
  • ソース上の数値変換関連78行を列挙し、通常のcargo build --locked --release --lib --target x86_64-unknown-linux-gnuの機械語と照合。
  • 全候補を同一基準から単独適用。各バイナリはルートpackageをcleanして再ビルドし、ソース差し替え時のCargoキャッシュ混同を防止。
  • 実VST3を公式SDKインターフェースからロードして測定。48 kHz、float32、256 samples/block、Unison=7、Detune初期値25 cent、LP2、Cutoff=+1200 cent、Q初期値1。ノート48から順に割り当て、velocity=1。ステレオ出力は同一の試験バッファへ書き込む。
  • 1秒発音後にwarm-up。各バッチ20ms以上×7の中央値を取得。9種類の順序を変えて3周し、3中央値の中央値を比較。測定中はコンパイルしない。
  • オートメーションはブロック末尾に1点、正規化値0.1+(i%100)×0.001。内部ではサンプルごとに補間する。

ソース箇所と変換命令一覧 / 生データ

出現箇所と省略可能性

箇所 頻度・実際の処理 判断
Oscillator::interpolateのf64→usize Sineはユニゾンごと・毎サンプル。Detuneは倍率更新時。x86_64のusizeは64bitで、cvttsd2siを2回使う飽和変換などが残る 最優先。u32経由、または有限の小さい値域を保証して単一変換へ
添字→f64 補間の小数部分を計算するため必要 添字の上限を保持して変換。整数部分と小数部分を分離する処理自体は必要
sine_sampleの象限番号・ビット値→f64 毎ユニゾン・毎サンプル 小さい整数として変換される。式の再構成でも省けるが丸め位置が変わるため別の数値検証対象
Envelope::refresh_valueのu64→f64 経過サンプル・Note Off位置・release経過 u64全域対応のSSE変換列。条件付きsigned変換の試作に速度上の優位はなかった
ParameterPoints::value_atのi32→f64 自動化中、補間の分子・分母で毎サンプル 分母の変換を変更点読み取り時にキャッシュできる。命令は減ったが今回の速度効果はなかった
Synthesizer::set_parametersのf64→usize/u32 設定変更時のPolyphony・Unison・Phase・Filter 最大32以下。型幅を絞ると機械語は減るが、単独の速度差は小さい
parameters::from_normalized 波形選択のf64→usize 最大3。u32経由へできる
Voice::note_onのi16/f32→f64 ノート開始時にpitch・tuning・velocityを取り込む ABI型とDSP型の境界で必要。サンプルごとではない
plugin::generate_samplesのf64→f32 float32出力時に1サンプル1回、結果を左右へ配送 出力精度に合わせる必須変換。削除にはDSP精度の変更が必要。静的な2箇所は処理経路の複製で、左右分の2変換ではない
サンプルoffsetのi32→usize 出力位置の計算 範囲検証後の整数拡張。高価な浮動小数点変換と区別する
位相wrapのbool→u8→f64 毎ユニゾン・毎サンプル 実際は比較・マスク・減算。整数→浮動小数点の変換命令は残らない
Unison数、k、乱数53bit→f64 設定更新時・Note On時 値域が推論される箇所は既にsigned変換へ簡略化。恒常的な64bit全域変換とは異なる
FilterType→usize、保持マスク 毎サンプル 整数の添字・ビット演算。浮動小数点キャストではない
GUIの整数tick・選択番号、f64→f32座標 描画・入力時 UI整数保持規則とeguiの型に必要
IBStreamの長さ・値変換 保存復元時 ABI/保存形式の境界。バッファ範囲・破損検出を維持
AtomicU64のto_bits/from_bits 共有値の読み書き 数値変換ではなくビット再解釈。丸めや浮動小数点変換命令を伴わない
定数、エラーコード、ポインターアドレス 初期化・ABI・UI寿命管理 定数畳み込み・ビット保持・整数幅調整。DSPの数値変換と分ける

to_bits/from_bitsと数値キャストの違い、およびto_int_uncheckedが有限かつ切り捨て後に整数型へ収まる値を要求する点はRust f64ドキュメントに基づく。

比較した候補

候補 試作内容
table-u32 (position as u32).min((len-2) as u32)で添字を保持し、アクセス時だけusize、補間時はf64へ変換
discrete-u32 Synthesizerのusize向け離散値と波形番号をu32経由で変換
cast-guard positionが有限の0〜1024ならto_int_unchecked::<i32>()、それ以外は通常のu32キャスト。表の端点処理は保持
cast-contract 上記値域を呼び出し元の内部契約で保証し、release時の範囲チェックを省く
asm-guard 同じ実行時条件でcvttsd2si r32,xmm、それ以外は通常のu32キャスト
asm-contract 同じ内部契約の下でチェックを省きcvttsd2siを直接使用
elapsed-asm u64≤i64::MAXならcvtsi2sd、それ以外は通常のu64→f64変換
span-cache 補間分母f64::from(at-previous)を変更点読み込み時だけ計算し、カーソルに保持

正の%は処理時間の短縮、負の%は増加。

候補 Sine 1音 Sine 32音 Sine 32音 Detune変化 Saw 1音 Q変化 Saw 32音
table-u32 +4.8% +6.3% +7.8% +0.3% -0.3%
discrete-u32 -0.0% +0.0% -0.1% +0.8% -0.2%
cast-guard +5.3% +7.1% +7.5% +0.2% +1.6%
cast-contract +10.7% +11.9% +14.5% -0.3% +0.7%
asm-guard +5.9% +7.1% +8.8% +0.5% +1.9%
asm-contract +10.4% +11.7% +14.4% -0.2% -0.1%
elapsed-asm -0.9% -0.2% +0.2% -0.2% -1.9%
span-cache -0.1% -0.0% -0.1% -0.6% -0.2%

基準のns/sampleは順に47.206, 1455.272, 2083.815, 59.232, 737.366。約1%前後の差は計測変動・コード配置の影響も考慮する。

安全なu32経由は小さい変更で効果がある。契約付き変換はさらに速いが、呼び出し経路全体の値域保証をコードと回帰テストに残す必要がある。Rust版とasm版の契約付き変換はほぼ同等であり、asmを導入する固有の理由にはならなかった。

span-cacheはapply_parametersの静的なcvtsi2sdが41→21へ減ったが、速度は改善しなかった。型変換の数だけを削減指標にしない。

アセンブリの条件と集約方針

必要になった時点でsrc/asm.rsに低水準実装を集約する。数値型変換だけでなく、採用する演算を小さな関数として置き、DSP側は用途が分かる関数名で呼ぶ。状態を持たない演算にStateやラッパーコンポーネントは追加しない。

  • 値域を内部で保証する入口と、実行時チェック+通常処理へのフォールバックを持つ入口を明確に分ける。unchecked入口は前提条件をSafety契約へ記載する。
  • CPU機能の条件は初期化時または処理区間の外で判断し、サンプルごとにCPUID判定を繰り返さない。x86_64必須のSSE2と、SSE4.1/AVX/FMA等を区別する。
  • MiriにはRust側の代替実装を用意する。Linux/Windowsの呼出規約に依存する固定レジスタの仮定を持ち込まない。
  • キャスト命令は小数入力でMXCSRの例外ステータスを変更し得る。今回の算術asmはoptions(nomem, nostack)とし、pureやpreserves_flagsを機械的には付けない。Rustのpreserves_flags契約はx86のMXCSR例外フラグも含む。Rust inline assembly
  • 範囲外のcvttsd2siはRustの飽和キャストとは異なる。無効変換の結果を配列添字として使用しない。Intel命令セット資料

キャスト以外の候補

演算 適用条件 検討結果
floor/ceil SSE4.1以上、または対応する代替処理 小関数の逆アセンブルでは標準ターゲットのfloor関数呼び出しが、機能指定時にroundsd系1命令へ変わる。手書きasmよりtarget_feature・intrinsicを先に比較する候補
SVFの積和 FMA対応CPU、融合による丸めの変更を許容 mul_addはFMA機能指定時にvfmaddへ変わる。現行の乗算+加算とのビット一致は要求できないため、採用には波形・残響の検証が必要。Rust FMA
位相wrapや複数の積分器更新 SSE2/AVX、各レーンの同じ処理、加算順の維持 位相wrapは既に比較・マスク・減算の命令列。手書き化だけで得られる省略は見つからない。複数レーン化はデータ配置と処理順も含む比較対象
正規化ランプのmin/max、sqrt 現行と同じNaN・0msの意味 Rustだけでdivsd/minsd/maxsd、sqrtsdへ変換される。同じasmを追加する効果は見込めない
逆数近似 CPU機能、入力の有限範囲、許容誤差の合意 正確な除算と同一ではない。IIR履歴へ誤差が入るため、許容誤差と安定性を定める必要がある
MXCSRの読み書き 対応CPU、同一スレッド、ホスト状態の復元 既存FloatModeで使用済み。writeのpreserves_flagsは復元時にMXCSR例外フラグを変更し得るため、指定の見直し対象

floor/FMAの命令比較は小関数をopt-level=3でコンパイルし、標準ターゲットとtarget-feature=+sse4.1,+fmaを比較したもの。実VST3の速度表は標準ターゲットのまま測定した。

動作範囲を制限して省ける処理

「条件分岐をなくす」と「比較・min/max命令を減らす」は分けて扱う。ソースに条件式があっても、既に分岐しない機械語になる場合がある。

保証・制限する範囲 省略候補 意味・優先度
Sine位置0〜1024、Detune位置0〜200、有限値 整数全域への飽和チェック 既存の位相・Detune仕様から保証できる。最優先。表の最終点では隣接参照のためlen-2への処理は残す
Polyphony≤32、Unison≤7、列挙値の上限 usize全域への飽和変換 既存の範囲検証を利用できる。今回の単独速度差は小さい
内部状態・入力が有限かつ検証済み 同じ入力を重複検証する分岐 ABI入口・設定変更時の検証を維持して内部契約を強める方法。有限入力からでも算術オーバーフローは起こり得るため、SVF履歴の非有限検出まで自動的に削除できるわけではない
最大発振周波数<最小サンプルレート 周波数更新の剰余・その高速経路判定 無制限のtuningや低レートまで含む現行入力範囲を狭める。ノート・Detuneを合わせた最大周波数を検証する必要がある
最小サンプルレート≥44.1 kHz 20 kHz以下のカットオフに対するrate×0.49上限 20,000/44,100<0.49なので一方のminを省ける。主に係数更新時の比較命令の削減で、低レート対応を失う
AHDSR時間を常に正にする 0ms由来のNaN等を考慮する一部処理 現行の0ms仕様に反する。今のランプは既に短い命令列なので優先度は低い
発音経過をu32に収める u64→f64全域変換 192 kHzで約6.21時間が上限。sustainや長時間再生へ制約を加える。途中のリセットは経過時間とオートメーションの意味を変える
発音経過をi64に収める unsigned→floatの補助処理 192 kHzでも約152万年まで表現できるが、条件付きasm試作は今回の速度で優位がない。実装を増やす根拠として弱い
フィルタタイプ等が区間内で一定 サンプルごとの処理選択 操作可能な値を減らさず区間単位へ分岐を移す案。変更点・状態遷移を保持し、コード増加との比較が必要
最低CPUをSSE4.1/AVX/FMA対応にする ソフトウェア代替・CPU分岐 CPU互換範囲を狭める。通常のコンパイラ出力でも恩恵が出るので、まず特定演算の条件付き実装として測る
DSPを全てf32にする f64→f32出力変換 精度変更の影響が大きい。最終出力の1変換削減だけでは理由として弱い

位相は丸めで1.0へ到達する可能性も含めて扱い、Sineのposition=4から得る表位置0も保証範囲に含める。Detuneの端点±100とSine表の最終位置1024を落とさない。

出力・境界検証

  • 全8試作の各2,064,384サンプルが基準版とビット単位で一致し、全出力が有限。
  • 全4波形×全7フィルタ×1/4/32ボイス×44.1/48/96 kHz×定常/変調×4,096サンプル。Phase=Keep、初期Unison=7、Detune=25。連続パラメーター更新、タイプ/Unison切替、Polyphony減少・復帰、Note Off、再発音、停止を含む。
  • 全候補で既存DSPテスト50件が成功。テーブル変換5候補には100万点以上の密な位置・端点・符号付きゼロの補間比較を追加し、51件成功。チェック付き候補はNaN・無限大・負値・巨大値の代替経路も確認。
  • 経過時間asmは2の冪付近、u64最大値、100万個の疑似乱数で通常キャストと一致し、追加テストを含む51件成功。
  • 全9バイナリでSDK ABI smoke成功(100インスタンス、float32/64、ノート、位相、オートメーション、状態、無音、ライフサイクル)。
  • 契約付きRust変換、契約付き/チェック付き添字asm、経過時間asmはWindows x86_64 MSVC向けreleaseクロスビルドも成功。

推奨順

  1. テーブル添字のu32化、または呼び出し元の値域保証を明文化したto_int_unchecked。安全性と変更規模を比較して選ぶ。
  2. 既存MXCSR復元のasmオプションを契約と照合して修正する。
  3. floor/ceilなどCPU機能で実装が変わる演算を、機能判定を処理区間外に置いて比較する。

今回、手書きasmがRustの範囲保証付き変換を明確に上回る結果は得られなかった。採用が必要になった演算を専用モジュールへ集約する方針とする。

対応レート制限と添字変換のPR

適用コミット: 6427d0ae2d1d8f82a27269be039e0aa178d1fbd7。比較基準mainはd692b8835259369da9c017e27f9e68a002d8b86d。

  • Sine/Detune表の補間位置が有限の0〜1024に収まる内部契約を明記し、Rustのto_int_unchecked::<i32>()で変換。u32で添字を保持する。最終点はlen-2へ調整して隣接参照と補間値を維持。
  • VST3のsetupProcessingは有限の44.1 kHz以上を受理。それ未満・NaN・無限大はkInvalidArgumentを返し、直前の有効な設定を保持。
  • フィルタは同じ下限を検証し、具体的なカットオフを20〜20,000 Hzへクランプ。44.1 kHz以上なら20,000/sampleRate<0.49が成立するため、係数計算の追加のminを省略。

VST3のIAudioProcessorには対応レート範囲を事前列挙するAPIがない。ホストがProcessSetup.sampleRateで提示した設定をsetupProcessingの結果で受理・拒否する。canProcessSampleSizeはfloat32/64の問い合わせである。

最終コミットの通常Cargo releaseビルドを実VST3として測定。上記と同じCPU・コンパイラ、48 kHz、256 samples/block、Unison=7、LP2。mainと適用版を交互に3周し、各7バッチ中央値の中央値を使用。追加したCutoff条件はブロック末尾に変更点を渡し、既存仕様に従いその位置で値を切り替える。

ケース main ns/sample 適用後 ns/sample 処理時間短縮
vst/f32/sine/p1/n256/no-queue 47.199 42.287 +10.4%
vst/f32/sine/p32/n256/no-queue 1454.606 1286.368 +11.6%
vst/f32/sine/p32/n256/detune-ramp 2084.098 1788.294 +14.2%
vst/f32/saw/p1/n256/q-ramp 59.141 59.453 -0.5%
vst/f32/saw/p32/n256/no-queue 736.867 739.369 -0.3%
vst/f32/saw/p32/n256/cutoff-ramp 749.892 751.929 -0.3%

Saw・Q・Cutoff切替では差は0.5%以内であり、速度の改善・悪化が明確な値とは扱わない。大きな改善はSineのテーブル参照で確認した。

検証:

  • cargo test --locked: 58件成功。レート下限の直前、有限性、拒否後の状態保持、補間の全整数境界・前後・中間点を含む。
  • cargo fmt --check、cargo clippy --locked --all-targets -- -D warnings: 成功。
  • 補間境界のMiriテスト: 成功。
  • 全4波形・全7フィルタ・1/4/32ボイス・44.1/48/96 kHz・定常/変調の2,064,384サンプル: mainとビット単位で一致。
  • SDK ABI smoke: 100インスタンス、float32/64、ノート、位相、オートメーション、状態、無音、ライフサイクルが成功。既存の低レート前提テストは対応レートへ変更し、音程・時間の換算で検証内容を保持。44.1 kHz直前等の拒否もSDKインターフェース経由で検証。
  • Validator: 47 tests passed, 0 tests failed。低レート試験(22.05/32 kHz等)に対するsetupProcessingの拒否はログへ記録される。
  • Linux x86_64/Windows x86_64 MSVCのreleaseビルド成功。

変更量は本体3ファイル、Rust/SDKテスト、README/AGENTSの計7ファイル、115行追加・39行削除。

Clone this wiki locally