Windows: クエリーを実行し続けるだけで接続できなくなる

[kou]

再現手順・再現に必要なデータは https://github.com/mroonga/windows-resource-leak-test にまとめたので、Windowsを持っている人は追試して再現したかどうかをコメントで教えてください。

[kou]

関連情報: https://ja.osdn.net/projects/groonga/lists/archive/dev/2018-January/004570.html

[kou]

こういうときにどういう情報を取得しておいたらいいか、アイディアがある人はコメントで教えてもらえるとうれしいです。このSQLを実行してこういう値を監視しておくとよい、とか。

[fuku1]

事象の発生元の者です。
本番機、テスト機のwindows server2012r2でも発生しますし、ローカルPCのwindows10でも発生しております。ローカルPCで再現させた際のエラー内容、ログなどを参考情報としてまとめました。
win10検証状況.xlsx
何か気付かれたことがあればコメントお願いします。

[kagami-h]

win10検証状況.xlsx
だと、PowerShell を 2つ起動させて「.\query.ps1」を同時実行が必要との事でしょうか？

1個で回していたのですが、52万クエリーまでは私の環境だと10時間以上はかかりそうです……。

複数個回すと再現が早いとか、もっと実行速度を早くする方法があればテストしやすいかも知れないですが、どうでしょうか？

[fuku1]

はい。
PowerShellを複数起動させて実行すると、事象発生までが早くなります。
マシンスペック次第で同時起動の数を増やせば早く発生させられます。
あとは複数端末あれば、複数端末から起動するのもありです。

簡易的に作ったデータとクエリのため、時間がかかっている状況です。時間短縮については検討します。

[kagami-h]

再現しました。
現象としては、ハンドルの開放がなされていないようです。
ハンドル数が 16,711,677 個で接続不可になっていました。

パフォーマンスモニターで、mysqld の「Process\Handle Count:」を監視するか、
タスクマネージャーの詳細で、ハンドルの列を追加して降順で確認できると思います。

netstat -ano では問題ないようでした。

[kagami-h]

再現した環境：
OS 名: Microsoft Windows 10 Home
OS バージョン: 10.0.16299 N/A ビルド 16299
物理メモリの合計: 16,305 MB

「.\query.ps1」を実行するとハンドル数が上がり、止めても下がらず、mysqld の再起動まで開放されないのが確認できました。

誰か myisam で追試を行い対比して貰えますか？

[fuku1]

コメントありがとうございます。
私の方でも同様に確認してみます。

[fuku1]

まだ途中ですが、Mroongaではハンドル数が増加し続け、
MyISAMではハンドル数がほぼ一定であることが確認できました。

[fuku1]

OS windows server 2012 R2 standard
でも同様にハンドル数が増加し続け、16,711,680で接続が不安定になり、その後mysqld.exeが終了しました。

[kou]

ありがとうございます。
たしかに、ハンドル数の増加は私の環境でも確認できました。

ということで、原因を調べることができ、修正できました。
今月のリリースには間に合わなかったのですが、次回は2月9日にリリースする予定なのでそれで確認してもらえると助かります。

長々と再現に協力してもらってありがとうございました。

[kagami-h]

ご対応いただきましてありがとうございます！

[fuku1]

修正ありがとうございます。
リリース頂いたら確認致します。
非常に困っていたので助かりました。

[kou]

https://github.com/mroonga/mroonga/releases/download/v8.00/mariadb-10.1.31-with-mroonga-8.00-winx64.zip を試してみてもらえますか？

[kagami-h]

開始と同時に数ハンドル増えただけで、増大し続けるのが解消されているのを確認しました。

[fuku1]

ありがとうございます。ハンドル数が増加し続けないことを確認しました。
他の要因も無いか継続実行していますが、７２時間クエリを投げ続けても今のところ問題ありません。

[kou]

確認ありがとうございます。
大丈夫そうですね。