Проблемы с параллельным выполнение запросов

[dorooleg]

Поднял базу на которой проблема параллельности из DS тоже проявляется: http://myt0-7686.search.yandex.net:8765

1. Этот запрос в нормально режиме выполняется < 1s для строчных таблиц https://nda.ya.ru/t/tteqN18x7FBn8h
2. Если же параллельно запустить чтение из строчной таблицы (тяжелый запрос) https://nda.ya.ru/t/uQxfY-QW7FBnDF , то тогда предыдущий уже начинает выполняться хуже, может работать около 10s https://nda.ya.ru/t/736urd2f7FBnEr
3. Но если при этом параллельно запустить чтение из s3: https://nda.ya.ru/t/o1hgKYWp7FBnJ9 То этому запросу все равно кто там параллельно выполняется, он всегда < 1s

Пока что гипотеза что либо с source для ds, cs что-то не так. Либо же проблемы с локальной базой или BS, но пока что эти гипотезы не смог доказать.

[Hor911]

Query for TPC-H table lineitem (scale 100):

select count(*) from lineitem;

AST:

(
(let $1 (DataType 'Uint64))
(let $2 '('('"_logical_id" '592) '('"_id" '"600e6670-de01e8bd-d55b3699-8291b49d") '('"_wide_channels" (StructType '('_yql_agg_0 $1)))))
(let $3 (DqPhyStage '() (lambda '() (block '(
  (let $7 (KqpTable '"/Root/tpch100/lineitem" '"72075186224037897:19" '"" '1))
  (let $8 (KqpBlockReadOlapTableRanges $7 (Void) '('"l_orderkey") '() '() (lambda '($10) (TKqpOlapAgg $10 '('('_yql_agg_0 '"count" '"*")) '()))))
  (let $9 (lambda '($11 $12) (BlockMember (BlockAsStruct '('_yql_agg_0 $11)) '_yql_agg_0) $12))
  (return (WideFromBlocks (FromFlow (WideMap $8 $9))))
))) $2))
(let $4 (DqCnUnionAll (TDqOutput $3 '0)))
(let $5 (DqPhyStage '($4) (lambda '($13) (block '(
  (let $14 (Bool 'false))
  (let $15 (WideCondense1 (ToFlow $13) (lambda '($17) $17) (lambda '($18 $19) $14) (lambda '($20 $21) (AggrAdd $20 $21))))
  (let $16 (Condense (NarrowMap (Take $15 (Uint64 '1)) (lambda '($22) (AsStruct '('Count0 $22)))) (Nothing (OptionalType (StructType '('Count0 $1)))) (lambda '($23 $24) $14) (lambda '($25 $26) (Just $25))))
  (return (FromFlow (Map $16 (lambda '($27) (AsStruct '('"column0" (Coalesce (Member $27 'Count0) (Uint64 '0))))))))
))) '('('"_logical_id" '1269) '('"_id" '"c3cbf974-b0618008-2daa9c74-6a4c026c"))))
(let $6 (DqCnResult (TDqOutput $5 '0) '('"column0")))
(return (KqpPhysicalQuery '((KqpPhysicalTx '($3 $5) '($6) '() '('('"type" '"generic")))) '((KqpTxResultBinding (ListType (StructType '('"column0" $1))) '0 '0)) '('('"type" '"script"))))
)

pragma UseBlocks;
select count(*) from lineitem;

AST (block mode):

(
(let $1 (lambda '($11 $12) (BlockMember (BlockAsStruct '('_yql_agg_0 $11)) '_yql_agg_0) $12))
(let $2 (DataType 'Uint64))
(let $3 '('('"_logical_id" '597) '('"_id" '"f244ef78-a09f8bb5-d9fc27e1-c81911fc") '('"_wide_channels" (StructType '('_yql_agg_0 $2)))))
(let $4 (DqPhyStage '() (lambda '() (block '(
  (let $8 (KqpTable '"/Root/tpch100/lineitem" '"72075186224037897:19" '"" '1))
  (let $9 (KqpBlockReadOlapTableRanges $8 (Void) '('"l_orderkey") '() '() (lambda '($10) (TKqpOlapAgg $10 '('('_yql_agg_0 '"count" '"*")) '()))))
  (return (WideFromBlocks (FromFlow (WideMap $9 $1))))
))) $3))
(let $5 (DqCnUnionAll (TDqOutput $4 '0)))
(let $6 (DqPhyStage '($5) (lambda '($13) (block '(
  (let $14 (Bool 'false))
  (let $15 (lambda '($22 $23) (BlockAsStruct '('Count0 $22)) $23))
  (let $16 (Condense (NarrowMap (ToFlow (WideFromBlocks (FromFlow (WideTakeBlocks (WideMap (ToFlow (WideToBlocks (FromFlow (WideCondense1 (ToFlow (WideFromBlocks (FromFlow (WideMap (ToFlow (WideToBlocks $13)) $1)))) (lambda '($17) $17) (lambda '($18 $19) $14) (lambda '($20 $21) (AggrAdd $20 $21)))))) $15) (Uint64 '1))))) (lambda '($24) $24)) (Nothing (OptionalType (StructType '('Count0 $2)))) (lambda '($25 $26) $14) (lambda '($27 $28) (Just $27))))
  (return (FromFlow (Map $16 (lambda '($29) (AsStruct '('"column0" (Coalesce (Member $29 'Count0) (Uint64 '0))))))))
))) '('('"_logical_id" '1274) '('"_id" '"c7fa2792-6d309ad6-7f45f9db-40b49942"))))
(let $7 (DqCnResult (TDqOutput $6 '0) '('"column0")))
(return (KqpPhysicalQuery '((KqpPhysicalTx '($4 $6) '($7) '() '('('"type" '"generic")))) '((KqpTxResultBinding (ListType (StructType '('"column0" $2))) '0 '0)) '('('"type" '"script"))))
)

[dorooleg]

Если поднять kqprun кластер с помощью инструкции Саши https://wiki.yandex-team.ru/kikimr/developers/getting-started-kqprun/#skripty-dlya-zagruzki-tpc-h-scale-100 и загрузить туда tpch. Еще можно создать маленькую oltp табличку по аналогии с part, но при этом там 220000 строк. И можно настроить external data source для s3, из инструкции выше можно достать как это сделать.

То в этом случае можно наблюдать картинку что запуск тяжелого CS запроса влияет на выполнение легкого DS запроса, но при этом чтение из s3 продолжает быстро работать:

Легкий DS запрос: https://nda.ya.ru/t/aUANFxef7FFRZb
Долгий CS запрос: https://nda.ya.ru/t/CsP7eRif7FFRg5

[dorooleg]

На поднятом кластере http://myt0-7686.search.yandex.net:8765/ наблюдается только проблема CS <-> CS (на независимых шардах) и DS <-> DS (на независимых шардах)

[dorooleg]

Итого есть три проблемы:

1. DS влияет на DS http://myt0-7686.search.yandex.net:8765/
2. CS влияет на CS http://myt0-7686.search.yandex.net:8765/
3. CS влияет на DS kqprun

[dorooleg]

Для запросов зависимых по памяти это исправлено в main