Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

スコアがなかなか下がらない #24

Closed
ryought opened this issue Jul 6, 2021 · 6 comments
Closed

スコアがなかなか下がらない #24

ryought opened this issue Jul 6, 2021 · 6 comments

Comments

@ryought
Copy link
Owner

ryought commented Jul 6, 2021

  • optimalなスコアからためす(どこにも行かない?)
    • →違うところに行ってしまう
  • forwardの部分を並列化する
    • →Forwardサブコマンドでまず実験
  • 全体のどのあたりを探索しているのか?
    • 提示された状態を列挙する
  • 可能性のある方向にだけ移動するようにする
@ryought
Copy link
Owner Author

ryought commented Jul 6, 2021

  • 探索結果をpythonでパースする
  • 訪れていない組み合わせは?

「どのbasisを追加するか」は今は一様だけど、重さをつけられるのかもしれない

@ryought
Copy link
Owner Author

ryought commented Jul 7, 2021

検証用に必要な情報

・基底に対するベクトル(線形代数でいうところの係数ベクトル)同士の距離(ハミング距離か、普通にeuclidノルム)
・基底の平均のスコア上昇度

温度別にpickするアイデアメモ
・温度の高いk-merに傾斜をつけてpick
・適当にcycleを取ってくる

@ryought
Copy link
Owner Author

ryought commented Jul 8, 2021

なぜダメかを可視化する
・遠いところを彷徨っている(横軸スコア/縦軸正解との距離みたいなグラフを書く?)
・正解とどのぐらいの距離のところをうろついているか(PCAで2次元上にプロットする)
・パラメーター空間全体のうちどのくらいを探索しているか?
・サイクルとスコア上昇度の分布(scatter)
・各サイクルの選択率
・pythonでパースする

そのままの方法でやる
・温度を色々ためす
・イテレーションを時間かける

@ryought
Copy link
Owner Author

ryought commented Jul 8, 2021

  • temp
  • projected
  • basis
    • 選択率

@ryought
Copy link
Owner Author

ryought commented Jul 8, 2021

スコアが増えていく方向が多いのは自然?各基底がスコアが増える方向に進むのか?(多い方が+の向きになるから+の方が多いのは当然?)
ランダムウォークをシードを変えて何度かやって、サイズの遷移をみる

@ryought
Copy link
Owner Author

ryought commented Jul 8, 2021

勾配法、貪欲法的な方法を入れても面白いのかもしれない
(一番スコアをよくする基底を追加する)

@ryought ryought closed this as completed Nov 1, 2023
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

1 participant