| id | title | type |
|---|---|---|
similar |
相似工作一览 |
explainer |
- triton ensemble && Business Logic Scripting && triton examples
- torchgpipe：流水线并行
- CNStream：模块化，配置系统
- Paddle Serving
- torchserve-workflow
- MediaPipe && nnstreamer： 关于异构和数据流的处理
- 阿里妈妈high_service：打造多媒体AI推理的极致性能!
- 昆仑芯助力vivo语音识别效果与性能提升，携手共建wenet开源生态
- 自动驾驶的最优 AI 推理流水线设计
- 美团视觉GPU推理服务部署架构优化实践
- Triton Pipeines的实现方式及对比