flash_attn v2.3.6, FreeUv2
100%|██████████████████████████████████████████████████████████████████████████████████| 50/50 [00:07<00:00,  6.50it/s]
100%|██████████████████████████████████████████████████████████████████████████████████| 12/12 [00:12<00:00,  1.02s/it]
Prompt executed in 22.74 seconds
got prompt
100%|██████████████████████████████████████████████████████████████████████████████████| 50/50 [00:07<00:00,  6.45it/s]
100%|██████████████████████████████████████████████████████████████████████████████████| 12/12 [00:12<00:00,  1.02s/it]
Prompt executed in 21.37 seconds
got prompt
100%|██████████████████████████████████████████████████████████████████████████████████| 50/50 [00:07<00:00,  6.46it/s]
100%|██████████████████████████████████████████████████████████████████████████████████| 12/12 [00:12<00:00,  1.02s/it]
Prompt executed in 21.37 seconds
100%|██████████████████████████████████████████████████████████████████████████████████| 50/50 [00:07<00:00,  6.49it/s]
100%|██████████████████████████████████████████████████████████████████████████████████| 12/12 [00:12<00:00,  1.02s/it]
Prompt executed in 21.35 seconds
100%|██████████████████████████████████████████████████████████████████████████████████| 50/50 [00:07<00:00,  6.47it/s]
100%|██████████████████████████████████████████████████████████████████████████████████| 12/12 [00:12<00:00,  1.01s/it]
Prompt executed in 21.31 seconds
100%|██████████████████████████████████████████████████████████████████████████████████| 50/50 [00:07<00:00,  6.52it/s]
100%|██████████████████████████████████████████████████████████████████████████████████| 12/12 [00:12<00:00,  1.03s/it]
Prompt executed in 21.51 seconds
100%|██████████████████████████████████████████████████████████████████████████████████| 50/50 [00:07<00:00,  6.53it/s]
100%|██████████████████████████████████████████████████████████████████████████████████| 12/12 [00:12<00:00,  1.04s/it]
Prompt executed in 21.55 seconds
got prompt
100%|██████████████████████████████████████████████████████████████████████████████████| 50/50 [00:07<00:00,  6.39it/s]
100%|██████████████████████████████████████████████████████████████████████████████████| 12/12 [00:12<00:00,  1.03s/it]



flash_attn v2.3.6 + xformers 0.0.24+042abc8.d20231217 + torch 2.3.0 dev
100%|██████████████████████████████████████████████████████████████████████████████████| 50/50 [00:07<00:00,  6.28it/s]
100%|██████████████████████████████████████████████████████████████████████████████████| 12/12 [00:12<00:00,  1.01s/it]
Prompt executed in 21.59 seconds
100%|██████████████████████████████████████████████████████████████████████████████████| 50/50 [00:07<00:00,  6.29it/s]
100%|██████████████████████████████████████████████████████████████████████████████████| 12/12 [00:12<00:00,  1.02s/it]
Prompt executed in 21.58 seconds
100%|██████████████████████████████████████████████████████████████████████████████████| 50/50 [00:07<00:00,  6.40it/s]
100%|██████████████████████████████████████████████████████████████████████████████████| 12/12 [00:12<00:00,  1.02s/it]
Prompt executed in 21.53 seconds
100%|██████████████████████████████████████████████████████████████████████████████████| 50/50 [00:07<00:00,  6.56it/s]
100%|██████████████████████████████████████████████████████████████████████████████████| 12/12 [00:12<00:00,  1.01s/it]
Prompt executed in 21.18 seconds
100%|██████████████████████████████████████████████████████████████████████████████████| 50/50 [00:07<00:00,  6.56it/s]
100%|██████████████████████████████████████████████████████████████████████████████████| 12/12 [00:12<00:00,  1.01s/it]
Prompt executed in 21.17 seconds
100%|██████████████████████████████████████████████████████████████████████████████████| 50/50 [00:07<00:00,  6.55it/s]
100%|██████████████████████████████████████████████████████████████████████████████████| 12/12 [00:12<00:00,  1.01s/it]
Prompt executed in 21.18 seconds
100%|██████████████████████████████████████████████████████████████████████████████████| 50/50 [00:07<00:00,  6.55it/s]
100%|██████████████████████████████████████████████████████████████████████████████████| 12/12 [00:12<00:00,  1.01s/it]
Prompt executed in 21.20 seconds



pytorch 2.3.0 dev 
100%|██████████████████████████████████████████████████████████████████████████████████| 50/50 [00:08<00:00,  5.97it/s]
100%|██████████████████████████████████████████████████████████████████████████████████| 12/12 [00:14<00:00,  1.22s/it]
Prompt executed in 24.45 seconds
100%|██████████████████████████████████████████████████████████████████████████████████| 50/50 [00:08<00:00,  6.08it/s]
100%|██████████████████████████████████████████████████████████████████████████████████| 12/12 [00:14<00:00,  1.21s/it]
Prompt executed in 24.24 seconds
100%|██████████████████████████████████████████████████████████████████████████████████| 50/50 [00:08<00:00,  6.17it/s]
100%|██████████████████████████████████████████████████████████████████████████████████| 12/12 [00:14<00:00,  1.23s/it]
Prompt executed in 24.23 seconds
100%|██████████████████████████████████████████████████████████████████████████████████| 50/50 [00:08<00:00,  6.14it/s]
100%|██████████████████████████████████████████████████████████████████████████████████| 12/12 [00:14<00:00,  1.21s/it]
Prompt executed in 24.06 seconds
100%|██████████████████████████████████████████████████████████████████████████████████| 50/50 [00:08<00:00,  6.16it/s]
100%|██████████████████████████████████████████████████████████████████████████████████| 12/12 [00:14<00:00,  1.21s/it]
Prompt executed in 24.04 seconds
got prompt
100%|██████████████████████████████████████████████████████████████████████████████████| 50/50 [00:08<00:00,  6.11it/s]
100%|██████████████████████████████████████████████████████████████████████████████████| 12/12 [00:14<00:00,  1.21s/it]
Prompt executed in 24.11 seconds