on Docker(JP)

[kzyoshimura]

Dockerにてpg-strom環境を構築しました。
手持ちのPCにGPUが無いため、さくらインターネトの高火力DoKにて動作させようとしましたが、GPUを利用したSQLが発行されません。
具体的には次のサイトの手順内のSQLを高火力DoKにて試しております。
・https://thinkit.co.jp/article/23090#toc-16
・https://github.com/ytooyama/pg-strom-docker

select * from pgstrom.gpu_device_info limit 10;にて情報取得できることは確認しており、pg-stromは利用できる状況かと思います。
何か解決方法はありますでしょうか？
作成したコンテナイメージはkzyoshimura/pg-strom-postgis-pg16-cuda12.3:v2です。
https://hub.docker.com/repository/docker/kzyoshimura/pg-strom-postgis-pg16-cuda12.3/tags/v2/sha256-ac2fd87e1bbf60f2339b7b63177623bddbff386413fe744629bc3f461179e382

高火力Dokでは次のコマンドを指定しています。
bash -c "initdb -D \"\$PGDATA\" --encoding=UTF8 --locale=ja_JP.UTF-8; echo \"shared_preload_libraries = 'pg_strom'\" >> \"\$PGDATA\"/postgresql.conf; pg_ctl -D \"\$PGDATA\" -w start; sleep 10; export POSTGRES_PASSWORD=postgres; psql -U postgres -d postgres -c \"CREATE EXTENSION pg_strom; SET pg_strom.enabled=on; CREATE TABLE t_test AS SELECT id, id % 10 AS ten, id % 20 AS twenty FROM generate_series(1, 25000000) AS id ORDER BY id; CREATE TABLE t_join AS SELECT * FROM t_test ORDER BY random() LIMIT 1000000; explain analyze SELECT count(*) FROM t_test AS a, t_join AS b WHERE a.id = b.id GROUP BY a.ten;\" > \"\$SAKURA_ARTIFACT_DIR\"/result.log; exit"

コマンド実行結果は以下です。

CREATE EXTENSION
SET
SELECT 25000000
SELECT 1000000
                                                                          QUERY PLAN                                                                          
--------------------------------------------------------------------------------------------------------------------------------------------------------------
 Finalize GroupAggregate  (cost=1248860133.59..1248860184.26 rows=200 width=12) (actual time=3332.910..3465.978 rows=10 loops=1)
   Group Key: a.ten
   ->  Gather Merge  (cost=1248860133.59..1248860180.26 rows=400 width=12) (actual time=3332.901..3465.966 rows=30 loops=1)
         Workers Planned: 2
         Workers Launched: 2
         ->  Sort  (cost=1248859133.56..1248859134.06 rows=200 width=12) (actual time=3327.790..3327.859 rows=10 loops=3)
               Sort Key: a.ten
               Sort Method: quicksort  Memory: 25kB
               Worker 0:  Sort Method: quicksort  Memory: 25kB
               Worker 1:  Sort Method: quicksort  Memory: 25kB
               ->  Partial HashAggregate  (cost=1248859123.92..1248859125.92 rows=200 width=12) (actual time=3327.752..3327.822 rows=10 loops=3)
                     Group Key: a.ten
                     Batches: 1  Memory Usage: 40kB
                     Worker 0:  Batches: 1  Memory Usage: 40kB
                     Worker 1:  Batches: 1  Memory Usage: 40kB
                     ->  Parallel Hash Join  (cost=17651.00..930100539.60 rows=63751716864 width=4) (actual time=2337.151..3273.824 rows=333333 loops=3)
                           Hash Cond: (a.id = b.id)
                           ->  Parallel Seq Scan on t_test a  (cost=0.00..250060.80 rows=11489280 width=8) (actual time=0.037..1084.824 rows=8333333 loops=3)
                           ->  Parallel Hash  (cost=10064.00..10064.00 rows=462400 width=4) (actual time=106.758..106.759 rows=333333 loops=3)
                                 Buckets: 262144  Batches: 8  Memory Usage: 7008kB
                                 ->  Parallel Seq Scan on t_join b  (cost=0.00..10064.00 rows=462400 width=4) (actual time=0.041..46.146 rows=333333 loops=3)
 Planning Time: 0.187 ms
 Execution Time: 3466.039 ms
(23 rows)

高火力Dokのログは以下です。

Success. You can now start the database server using:

    pg_ctl -D /var/lib/pgsql/16/data -l logfile start

initdb: warning: enabling "trust" authentication for local connections
initdb: hint: You can change this by editing pg_hba.conf or using the option -A, or --auth-local and --auth-host, the next time you run initdb.
waiting for server to start....2025-03-19 11:54:46.473 UTC [40] LOG:  HeteroDB Extra module loaded [api_version=20250115,cufile=on,nvme_strom=off,nvidia-fs=off,githash=1e404f95274aa570adefa66070d87a909416e54d]
2025-03-19 11:54:46.474 UTC [40] LOG:  PG-Strom version 5.2.2.el8 built for PostgreSQL 16 (githash: )
2025-03-19 11:54:46.528 UTC [40] LOG:  PG-Strom binary built for CUDA 12.5 (CUDA runtime 12.2)
2025-03-19 11:54:46.529 UTC [40] LOG:  PG-Strom: GPU0 Tesla V100-PCIE-32GB (80 SMs; 1380MHz, L2 6144kB), RAM 31.74GB (4096bits, 856MHz), PCI-E Bar1 32GB, CC 7.0
2025-03-19 11:54:46.532 UTC [40] LOG:  [0000:00:0a:0] GPU0 (Tesla V100-PCIE-32GB; GPU-266234c1-5215-fbf2-c502-2672a48d59d6)
2025-03-19 11:54:46.571 UTC [40] LOG:  redirecting log output to logging collector process
2025-03-19 11:54:46.571 UTC [40] HINT:  Future log output will appear in directory "log".
 done
server started

select * from pgstrom.gpu_device_info limit 10;の結果は以下です。

 gpu_id |       att_name        |                att_value                 |              att_desc               
--------+-----------------------+------------------------------------------+-------------------------------------
      0 | DEV_NAME              | Tesla V100-PCIE-32GB                     | GPU Device Name
      0 | DEV_ID                | 0                                        | GPU Device ID
      0 | DEV_UUID              | GPU-266234c1-5215-fbf2-c502-2672a48d59d6 | GPU Device UUID
      0 | DEV_TOTAL_MEMSZ       | 31.74GB                                  | GPU Total RAM Size
      0 | DEV_BAR1_MEMSZ        | 32.00GB                                  | GPU PCI Bar1 Size
      0 | NUMA_NODE_ID          | -1                                       | GPU NUMA Node Id
      0 | MAX_THREADS_PER_BLOCK | 1024                                     | Maximum number of threads per block
      0 | MAX_BLOCK_DIM_X       | 1024                                     | Maximum block dimension X
      0 | MAX_BLOCK_DIM_Y       | 1024                                     | Maximum block dimension Y
      0 | MAX_BLOCK_DIM_Z       | 64                                       | Maximum block dimension Z
(10 rows)

[kaigai]

PostgreSQLの（PG-Stromの）起動後、しばらくするとこういったログ（CUDAバイナリのビルドが終わった事を示す）が
表示されるはずですが、これが無いようです。
それまではpg_strom.enabled = offと同等のものとして動きますので、もう少しウェイトを増やしてみてください。

LOG:  PG-Strom fatbin image is ready: pgstrom-gpucode-V012080-ead64ba66d7f714314105771ae63dfda.fatbin
LOG:  GPU0 workers - 17 startup (with GpuCacheManager), 0 terminate

@ytooyama さん

このDockerの定義って、まだPG-Strom 5.0かその前後に作ったヤツですよね？
そうすると、CUDAバイナリはビルド済みを同梱する前提（そして上手く行かないケース）であったため、
RPMインストール後、初回ブート時にCUDAバイナリのビルドが走る時間を想定していないので、
僅か10秒のsleepではうまくいかない気がします。

[kzyoshimura]

@kaigai さん
ご回答ありがとうございます。
sleepを120秒にすることでGPUが利用されました！ありがとうございました。

                                                                         QUERY PLAN                                                                          
-------------------------------------------------------------------------------------------------------------------------------------------------------------
 HashAggregate  (cost=20003668.12..20003670.12 rows=200 width=12) (actual time=2497.798..2501.636 rows=10 loops=1)
   Group Key: a.ten
   Batches: 1  Memory Usage: 40kB
   ->  Gather  (cost=20003645.12..20003667.12 rows=200 width=12) (actual time=2495.606..2501.614 rows=10 loops=1)
         Workers Planned: 2
         Workers Launched: 2
         ->  Parallel Custom Scan (GpuPreAgg) on t_test a  (cost=20002645.12..20002647.12 rows=200 width=12) (actual time=2470.742..2470.747 rows=3 loops=3)
               GPU Projection: pgstrom.nrows(), a.ten
               GPU Join Quals [1]: (a.id = b.id) ... [plan: 11489280 -> 63751720000, exec: 25000000 -> 1000000]
               GPU Outer Hash [1]: a.id
               GPU Inner Hash [1]: b.id
               ->  Parallel Seq Scan on t_join b  (cost=0.00..10064.00 rows=462400 width=4) (actual time=0.115..51.090 rows=333333 loops=3)
 Planning Time: 0.534 ms
 Execution Time: 2509.558 ms
(14 rows)

※当方の環境においては、次のログは出力されませんでした。

LOG:  PG-Strom fatbin image is ready: pgstrom-gpucode-V012080-ead64ba66d7f714314105771ae63dfda.fatbin
LOG:  GPU0 workers - 17 startup (with GpuCacheManager), 0 terminate

[2025.3.30追記]申し訳ございません。次の通りログ出力されておりました。

2025-03-30 13:10:53.783 UTC [37] LOG:  PG-Strom fatbin image is ready: pgstrom-gpucode-V012020-9c25655bc92c5b643beef5f536256a4a.fatbin
2025-03-30 13:10:54.529 UTC [37] LOG:  GPU0 workers - 13 startup (with GpuCacheManager), 0 terminate

[ytooyama]

弊社でGISのプロジェクトでA100 GPU + GDSをDockerコンテナで使えているのでおそらく大丈夫だと思います。
https://github.com/ytooyama/pg-strom-docker

[kzyoshimura]

Dockerにてpg-strom利用できておりますのでクローズいたします。