内置 PaddleOCRVL 系列模型的集成 paddleocr_vl.py (ocr、formula、table), 这个也是onnx模型？怎么调用？

[nissansz]

内置 PaddleOCRVL 系列模型的集成 paddleocr_vl.py (ocr、formula、table), 这个也是onnx模型？怎么调用？

[nissansz]

import os
os.environ['PADDLEOCRVL_VERSION'] = "v1.5"
os.environ['PADDLEOCRVL_VL_REC_BACKEND'] = "vllm-server"
os.environ['PADDLEOCRVL_VL_VL_REC_SERVER_URL'] = "http://localhost:8118/v1"

from rapid_doc.model.layout.rapid_layout_self import ModelType as LayoutModelType
from rapid_doc.model.custom.paddleocr_vl.paddleocr_vl import PaddleOCRVLTableModel, PaddleOCRVLOCRModel, PaddleOCRVLFormulaModel
layout_config = {
"model_type": LayoutModelType.PP_DOCLAYOUTV3,
}
ocr_config = {
"custom_model": PaddleOCRVLOCRModel()
}
formula_config = {
"custom_model": PaddleOCRVLFormulaModel()
}
table_config = {
"custom_model": PaddleOCRVLTableModel()
}

llama.cpp启动服务器后怎么调用上面代码？
cd C:\L\llama-b8280-bin-win-cuda-12.4-x64
llama-server -m C:\Users\Administrator\Downloads\PaddleOCR-VL-1.5-GGUF.gguf --mmproj C:\Users\Administrator\Downloads\PaddleOCR-VL-1.5-GGUF-mmproj.gguf --port 8111 --host 0.0.0.0 --ctx-size 131072 -n 4096 --temp 0 --jinja