Repository navigation
AVX2 FMA afx26 integer validation 2026 11 14
odashi edited this page Nov 16, 2026
·
1 revision
改善すべき課題:4値の指数部をAVX2整数AND・比較・movemaskへまとめ、有限性の意味を維持して処理を減らす。
比較:a01-avx2-fma → afx26-integer-validation。基準mainはba12d024181de0270be8b067b2f3d8b894181ebf。
48,000 Hz、256 samples/block、10測定ブロック。Intel Core i9-14900K、Linux CPU 0。
各実行は準備音声2秒、演奏1周以上かつ実時間10ms以上のburn-in後に音声4秒分を生成する。ブロック内の前後×ケースを無作為化し、ブロック間5秒休止する。
時間差は同じブロック内で対応付け、両側t検定と選択ケース全体のHolm補正(5%)を用いる。図の区間はケースごとの未補正95%信頼区間。差未検出は同等を意味しない。
判定:不採用。3短縮32差未検出6悪化。既存bit検査と判定・例外flagは一致したが、全体の性能改善に結び付かなかった。
有意短縮 3、差未検出 32、有意悪化 6。 変更後の最大ケース平均:284.700 ns/ステレオサンプル。200 ns以下は26/41ケース。
| ケース | 前 平均±SD ns | 後 平均±SD ns | 対応差 平均±SD ns | t | df | Holm p | 判定 |
|---|---|---|---|---|---|---|---|
| sine-mono | 18.332 ± 0.229 | 18.494 ± 0.236 | 0.162 ± 0.247 | 2.077 | 9 | 1 | not_detected |
| saw-bass | 35.681 ± 0.158 | 35.170 ± 0.157 | -0.511 ± 0.216 | -7.487 | 9 | 0.001423 | faster |
| triangle-pluck | 51.915 ± 0.240 | 52.542 ± 0.260 | 0.626 ± 0.320 | 6.197 | 9 | 0.005743 | slower |
| square-lead | 27.787 ± 0.301 | 27.966 ± 0.254 | 0.179 ± 0.229 | 2.469 | 9 | 0.8546 | not_detected |
| saw-chords | 150.017 ± 1.927 | 150.506 ± 0.557 | 0.488 ± 2.131 | 0.7248 | 9 | 1 | not_detected |
| slow-pad | 230.113 ± 4.105 | 229.735 ± 1.190 | -0.378 ± 3.896 | -0.3067 | 9 | 1 | not_detected |
| three-osc-keys | 141.122 ± 4.453 | 138.045 ± 0.259 | -3.077 ± 4.391 | -2.216 | 9 | 1 | not_detected |
| phase-mod-bell | 141.378 ± 0.268 | 143.204 ± 0.528 | 1.826 ± 0.683 | 8.453 | 9 | 0.0005547 | slower |
| portamento-lead | 36.719 ± 0.252 | 37.195 ± 0.587 | 0.476 ± 0.713 | 2.111 | 9 | 1 | not_detected |
| soft-bass | 43.662 ± 0.375 | 42.847 ± 0.097 | -0.816 ± 0.349 | -7.385 | 9 | 0.001542 | faster |
| hard-lead | 29.918 ± 0.181 | 30.270 ± 0.343 | 0.353 ± 0.327 | 3.408 | 9 | 0.2296 | not_detected |
| compressor-bass | 45.002 ± 0.266 | 44.309 ± 0.244 | -0.694 ± 0.363 | -6.045 | 9 | 0.006706 | faster |
| compressor-chords | 161.133 ± 0.421 | 162.583 ± 2.012 | 1.450 ± 2.008 | 2.284 | 9 | 1 | not_detected |
| delay-lead | 31.083 ± 0.216 | 31.329 ± 0.409 | 0.246 ± 0.519 | 1.497 | 9 | 1 | not_detected |
| ping-pong-keys | 145.479 ± 0.314 | 147.024 ± 0.378 | 1.545 ± 0.516 | 9.46 | 9 | 0.0002267 | slower |
| reverb-pad | 238.339 ± 0.516 | 239.416 ± 0.788 | 1.077 ± 0.997 | 3.418 | 9 | 0.2296 | not_detected |
| chorus-pad | 236.004 ± 3.349 | 235.447 ± 0.444 | -0.558 ± 3.471 | -0.5081 | 9 | 1 | not_detected |
| flanger-lead | 34.012 ± 0.178 | 34.161 ± 0.246 | 0.149 ± 0.308 | 1.53 | 9 | 1 | not_detected |
| phaser-keys | 162.409 ± 0.266 | 163.326 ± 0.419 | 0.917 ± 0.244 | 11.88 | 9 | 3.444e-05 | slower |
| eq-keys | 156.395 ± 0.873 | 157.182 ± 0.602 | 0.787 ± 0.458 | 5.437 | 9 | 0.01361 | slower |
| limiter-chords | 150.050 ± 1.700 | 150.224 ± 0.135 | 0.174 ± 1.730 | 0.3184 | 9 | 1 | not_detected |
| chain-pad | 254.805 ± 0.728 | 255.428 ± 0.498 | 0.623 ± 0.554 | 3.551 | 9 | 0.1925 | not_detected |
| chain-lead | 64.114 ± 1.487 | 64.955 ± 1.595 | 0.840 ± 2.272 | 1.169 | 9 | 1 | not_detected |
| release-tail | 63.590 ± 0.249 | 63.807 ± 0.399 | 0.217 ± 0.538 | 1.275 | 9 | 1 | not_detected |
| idle-pad | 3.412 ± 0.085 | 3.378 ± 0.100 | -0.034 ± 0.111 | -0.9634 | 9 | 1 | not_detected |
| auto-cutoff | 184.920 ± 1.533 | 185.053 ± 1.134 | 0.133 ± 2.012 | 0.2098 | 9 | 1 | not_detected |
| auto-resonance | 205.427 ± 0.477 | 204.902 ± 1.268 | -0.524 ± 1.352 | -1.226 | 9 | 1 | not_detected |
| auto-cutoff-amount | 249.624 ± 1.312 | 252.862 ± 4.135 | 3.238 ± 4.626 | 2.214 | 9 | 1 | not_detected |
| auto-drive | 222.919 ± 0.431 | 221.714 ± 0.769 | -1.205 ± 1.046 | -3.642 | 9 | 0.1722 | not_detected |
| auto-mix | 218.477 ± 5.055 | 215.782 ± 0.581 | -2.695 ± 4.655 | -1.831 | 9 | 1 | not_detected |
| auto-pan | 203.217 ± 1.164 | 204.370 ± 0.423 | 1.153 ± 1.253 | 2.911 | 9 | 0.4578 | not_detected |
| auto-volume | 188.511 ± 3.962 | 188.021 ± 0.522 | -0.489 ± 4.181 | -0.3701 | 9 | 1 | not_detected |
| auto-width | 197.740 ± 1.514 | 200.170 ± 5.940 | 2.430 ± 4.974 | 1.545 | 9 | 1 | not_detected |
| auto-phase-mod | 153.047 ± 1.377 | 154.470 ± 0.526 | 1.423 ± 1.329 | 3.385 | 9 | 0.2296 | not_detected |
| auto-pitch-bend | 79.552 ± 0.401 | 79.145 ± 0.242 | -0.407 ± 0.441 | -2.923 | 9 | 0.4578 | not_detected |
| auto-eq-frequency | 218.525 ± 1.923 | 218.103 ± 1.247 | -0.422 ± 2.137 | -0.625 | 9 | 1 | not_detected |
| auto-delay-feedback | 71.213 ± 1.089 | 71.728 ± 0.905 | 0.515 ± 0.563 | 2.894 | 9 | 0.4578 | not_detected |
| auto-reverb-mix | 285.704 ± 3.352 | 284.700 ± 0.482 | -1.005 ± 3.585 | -0.8863 | 9 | 1 | not_detected |
| auto-chorus-depth | 277.524 ± 1.098 | 279.834 ± 0.749 | 2.311 ± 1.322 | 5.528 | 9 | 0.01247 | slower |
| auto-phaser-center | 205.705 ± 0.858 | 205.382 ± 0.335 | -0.323 ± 0.915 | -1.116 | 9 | 1 | not_detected |
| auto-compressor-threshold | 224.213 ± 3.181 | 223.576 ± 0.228 | -0.637 ± 3.202 | -0.629 | 9 | 1 | not_detected |
境界・乱数bit・FTZ/DAZの検証。全11テスト成功。入力4値の並列化だけの差分で、通常のフィルタ数式は変更しない。
全統計量・構成・ハッシュ・計測時刻、全測定順序・実行値。 音声fingerprint一致は数値比較の補助情報とし、数式変更の精度は波形のRMS誤差で別に検査する。