Skip to content

AVX2 FMA afx26 integer validation 2026 11 14

odashi edited this page Nov 16, 2026 · 1 revision

AFX26: 指数部の整数SIMDによる有限値検証

過去の調査・実験ログです。本文の版・条件・結果は記録当時のものです。分類索引 · 技術資料

改善すべき課題:4値の指数部をAVX2整数AND・比較・movemaskへまとめ、有限性の意味を維持して処理を減らす。

比較:a01-avx2-fma → afx26-integer-validation。基準mainはba12d024181de0270be8b067b2f3d8b894181ebf。 48,000 Hz、256 samples/block、10測定ブロック。Intel Core i9-14900K、Linux CPU 0。 各実行は準備音声2秒、演奏1周以上かつ実時間10ms以上のburn-in後に音声4秒分を生成する。ブロック内の前後×ケースを無作為化し、ブロック間5秒休止する。 時間差は同じブロック内で対応付け、両側t検定と選択ケース全体のHolm補正(5%)を用いる。図の区間はケースごとの未補正95%信頼区間。差未検出は同等を意味しない。

判定:不採用。3短縮32差未検出6悪化。既存bit検査と判定・例外flagは一致したが、全体の性能改善に結び付かなかった。

有意短縮 3、差未検出 32、有意悪化 6。 変更後の最大ケース平均:284.700 ns/ステレオサンプル。200 ns以下は26/41ケース。

生成時間と対応差

ケース 前 平均±SD ns 後 平均±SD ns 対応差 平均±SD ns t df Holm p 判定
sine-mono 18.332 ± 0.229 18.494 ± 0.236 0.162 ± 0.247 2.077 9 1 not_detected
saw-bass 35.681 ± 0.158 35.170 ± 0.157 -0.511 ± 0.216 -7.487 9 0.001423 faster
triangle-pluck 51.915 ± 0.240 52.542 ± 0.260 0.626 ± 0.320 6.197 9 0.005743 slower
square-lead 27.787 ± 0.301 27.966 ± 0.254 0.179 ± 0.229 2.469 9 0.8546 not_detected
saw-chords 150.017 ± 1.927 150.506 ± 0.557 0.488 ± 2.131 0.7248 9 1 not_detected
slow-pad 230.113 ± 4.105 229.735 ± 1.190 -0.378 ± 3.896 -0.3067 9 1 not_detected
three-osc-keys 141.122 ± 4.453 138.045 ± 0.259 -3.077 ± 4.391 -2.216 9 1 not_detected
phase-mod-bell 141.378 ± 0.268 143.204 ± 0.528 1.826 ± 0.683 8.453 9 0.0005547 slower
portamento-lead 36.719 ± 0.252 37.195 ± 0.587 0.476 ± 0.713 2.111 9 1 not_detected
soft-bass 43.662 ± 0.375 42.847 ± 0.097 -0.816 ± 0.349 -7.385 9 0.001542 faster
hard-lead 29.918 ± 0.181 30.270 ± 0.343 0.353 ± 0.327 3.408 9 0.2296 not_detected
compressor-bass 45.002 ± 0.266 44.309 ± 0.244 -0.694 ± 0.363 -6.045 9 0.006706 faster
compressor-chords 161.133 ± 0.421 162.583 ± 2.012 1.450 ± 2.008 2.284 9 1 not_detected
delay-lead 31.083 ± 0.216 31.329 ± 0.409 0.246 ± 0.519 1.497 9 1 not_detected
ping-pong-keys 145.479 ± 0.314 147.024 ± 0.378 1.545 ± 0.516 9.46 9 0.0002267 slower
reverb-pad 238.339 ± 0.516 239.416 ± 0.788 1.077 ± 0.997 3.418 9 0.2296 not_detected
chorus-pad 236.004 ± 3.349 235.447 ± 0.444 -0.558 ± 3.471 -0.5081 9 1 not_detected
flanger-lead 34.012 ± 0.178 34.161 ± 0.246 0.149 ± 0.308 1.53 9 1 not_detected
phaser-keys 162.409 ± 0.266 163.326 ± 0.419 0.917 ± 0.244 11.88 9 3.444e-05 slower
eq-keys 156.395 ± 0.873 157.182 ± 0.602 0.787 ± 0.458 5.437 9 0.01361 slower
limiter-chords 150.050 ± 1.700 150.224 ± 0.135 0.174 ± 1.730 0.3184 9 1 not_detected
chain-pad 254.805 ± 0.728 255.428 ± 0.498 0.623 ± 0.554 3.551 9 0.1925 not_detected
chain-lead 64.114 ± 1.487 64.955 ± 1.595 0.840 ± 2.272 1.169 9 1 not_detected
release-tail 63.590 ± 0.249 63.807 ± 0.399 0.217 ± 0.538 1.275 9 1 not_detected
idle-pad 3.412 ± 0.085 3.378 ± 0.100 -0.034 ± 0.111 -0.9634 9 1 not_detected
auto-cutoff 184.920 ± 1.533 185.053 ± 1.134 0.133 ± 2.012 0.2098 9 1 not_detected
auto-resonance 205.427 ± 0.477 204.902 ± 1.268 -0.524 ± 1.352 -1.226 9 1 not_detected
auto-cutoff-amount 249.624 ± 1.312 252.862 ± 4.135 3.238 ± 4.626 2.214 9 1 not_detected
auto-drive 222.919 ± 0.431 221.714 ± 0.769 -1.205 ± 1.046 -3.642 9 0.1722 not_detected
auto-mix 218.477 ± 5.055 215.782 ± 0.581 -2.695 ± 4.655 -1.831 9 1 not_detected
auto-pan 203.217 ± 1.164 204.370 ± 0.423 1.153 ± 1.253 2.911 9 0.4578 not_detected
auto-volume 188.511 ± 3.962 188.021 ± 0.522 -0.489 ± 4.181 -0.3701 9 1 not_detected
auto-width 197.740 ± 1.514 200.170 ± 5.940 2.430 ± 4.974 1.545 9 1 not_detected
auto-phase-mod 153.047 ± 1.377 154.470 ± 0.526 1.423 ± 1.329 3.385 9 0.2296 not_detected
auto-pitch-bend 79.552 ± 0.401 79.145 ± 0.242 -0.407 ± 0.441 -2.923 9 0.4578 not_detected
auto-eq-frequency 218.525 ± 1.923 218.103 ± 1.247 -0.422 ± 2.137 -0.625 9 1 not_detected
auto-delay-feedback 71.213 ± 1.089 71.728 ± 0.905 0.515 ± 0.563 2.894 9 0.4578 not_detected
auto-reverb-mix 285.704 ± 3.352 284.700 ± 0.482 -1.005 ± 3.585 -0.8863 9 1 not_detected
auto-chorus-depth 277.524 ± 1.098 279.834 ± 0.749 2.311 ± 1.322 5.528 9 0.01247 slower
auto-phaser-center 205.705 ± 0.858 205.382 ± 0.335 -0.323 ± 0.915 -1.116 9 1 not_detected
auto-compressor-threshold 224.213 ± 3.181 223.576 ± 0.228 -0.637 ± 3.202 -0.629 9 1 not_detected

境界・乱数bit・FTZ/DAZの検証。全11テスト成功。入力4値の並列化だけの差分で、通常のフィルタ数式は変更しない。

全統計量・構成・ハッシュ・計測時刻、全測定順序・実行値。 音声fingerprint一致は数値比較の補助情報とし、数式変更の精度は波形のRMS誤差で別に検査する。

調査の索引

Clone this wiki locally