Skip to content

Releases: lxw112190/lw.PPOCR.Inference

v1.3.0 — Linux ONNX Runtime, OpenVINO & OpenCV DNN HTTP Service

Choose a tag to compare

@lxw112190 lxw112190 released this 16 Jul 16:51

lw.PPOCR.Inference v1.3.0

lw.PPOCR.Inference v1.3.0 正式提供三套面向 Ubuntu 20.04 x86_64 的 Linux OCR 部署包:OpenCV DNN、ONNX Runtime 和 OpenVINO。

三个版本均已通过 GitHub Actions CI 和 Ubuntu 20.04 虚拟机验证。部署包已经包含推理 Runtime、PP-OCRv6 tiny 模型、HTTP 服务、浏览器测试页面、API Key、systemd 脚本、许可证和校验文件,下载后不需要仓库源码即可运行。

下载附件

OpenCV DNN CPU

lw.PPOCR.Inference-v1.3.0-linux-x64-opencv.tar.gz
lw.PPOCR.Inference-v1.3.0-linux-x64-opencv.tar.gz.sha256

适合希望部署简单、兼容性明确的通用 CPU 场景,包内固定使用 OpenCV 5.0 DNN CPU 后端。

ONNX Runtime CPU / NVIDIA CUDA

lw.PPOCR.Inference-v1.3.0-linux-x64-onnxruntime-cpu.tar.gz
lw.PPOCR.Inference-v1.3.0-linux-x64-onnxruntime-cpu.tar.gz.sha256

默认内置官方 ONNX Runtime 1.26.0 CPU Runtime,解压后可直接使用 CPU 推理。

设备配置支持:

{"device":"cpu"}
{"device":"cuda"}
{"device":"auto"}
  • cpu:强制使用 CPU。
  • cuda:强制使用 NVIDIA CUDA,CUDA Provider 或依赖不可用时启动失败。
  • auto:优先尝试 CUDA,不可用时回退 CPU。

发布附件不包含 NVIDIA 驱动、CUDA 和 cuDNN。启用 GPU 时,必须使用官方相同 ONNX Runtime 版本、相同 CUDA 系列 GPU 包中的完整 libonnxruntime*.so* 集合替换 CPU 文件。不要只替换一个 .so,也不要混用 CUDA 12 与 CUDA 13 包。本次正式包和虚拟机验证以 CPU Runtime 为基线。

OpenVINO CPU

lw.PPOCR.Inference-v1.3.0-linux-x64-openvino-cpu.tar.gz
lw.PPOCR.Inference-v1.3.0-linux-x64-openvino-cpu.tar.gz.sha256

固定使用官方 OpenVINO 2025.2.0 Ubuntu 20.04 Runtime,包内包含 OpenVINO core、CPU plugin、ONNX frontend、oneTBB、hwloc 和 OCR 所需的最小 OpenCV 共享库。目标机器不需要另外安装 OpenVINO SDK。

当前正式包只开放:

{"device":"CPU"}

OpenVINO GPU 暂不纳入 v1.3.0 的稳定支持范围。

v1.3.0 新增与完善

  • Linux OpenCV DNN、ONNX Runtime、OpenVINO 三个后端独立打包。
  • 支持检测、方向分类、文字识别组成的完整 OCR 流程。
  • 支持单张和批量“只识别”接口,客户可直接提交已经裁剪好的文字区域。
  • 提供 JSON + Base64 HTTP API。
  • 提供浏览器测试页面,在原图绘制识别区域并显示各阶段耗时。
  • 支持可选的 X-API-Key 请求认证。
  • 支持安装为 Linux systemd 服务。
  • 服务启动时输出作者、配置和请求参数信息,但不会输出 API Key 明文。
  • 三个部署包均携带模型、网页、配置、私有共享库、许可证、包内文件校验和发布文件 SHA-256。
  • 三条 CI 均执行 ABI 测试、真实模型正确性测试、HTTP 冒烟测试和打包后再次验证。
  • LW_PPOCR_API_VERSION 保持为 1,不改变 v1.0.0/v1.1.0 的公共 ABI。

快速启动

下载所选后端对应的 .tar.gz.tar.gz.sha256 后,在 Linux 执行:

sha256sum -c 文件名.tar.gz.sha256
tar -xzf 文件名.tar.gz
cd 解压后的目录

sudo ./install-deps-ubuntu.sh
./verify-linux-package.sh
./run-http-service.sh

浏览器访问:

http://127.0.0.1:8787/

请使用 run-http-service.sh 启动。该脚本会设置当前后端私有共享库所需的 LD_LIBRARY_PATH。如果目录曾在 Windows 解压后再上传,Linux 执行权限可能丢失,可以运行:

chmod +x *.sh

更推荐直接把 .tar.gz 上传到 Linux 后解压,以保留权限和符号链接。

HTTP API

接口 用途
GET /health 服务健康检查,不要求 API Key
POST /api/ocr 检测 + 分类 + 识别完整流程
POST /api/recognize 识别已经裁剪好的单张或批量文字区域

完整 OCR 请求:

{"image_base64":"..."}

批量只识别请求:

{"images_base64":["...","..."]}

API Key 与局域网部署

默认仅监听本机且不启用认证:

{
  "listen_host": "127.0.0.1",
  "api_key": ""
}

局域网部署建议修改为:

{
  "listen_host": "0.0.0.0",
  "api_key": "替换为足够长的随机密钥"
}

客户端通过请求头传递:

X-API-Key: 替换为足够长的随机密钥

不要把未设置 API Key 的服务直接暴露到公网,同时应使用防火墙或反向代理限制访问来源。

systemd

完成自检并修改好配置后执行:

sudo ./install-systemd.sh
systemctl status lw-ppocr-http.service
journalctl -u lw-ppocr-http.service -f

升级与兼容性

  • v1.2.0 OpenCV DNN 用户可以继续使用原部署包。
  • 三个 v1.3.0 Linux 包的公共 C ABI 和 HTTP API 相同。
  • 三个后端的私有共享库不同,首次切换后端必须下载对应完整包,不建议只复制某个 Runtime .so
  • 模型、配置或推理框架版本发生变化时,应优先使用完整部署包;只有 Release Notes 明确列出可替换文件时,才建议增量覆盖。

验证状态

  • Linux OpenCV DNN:CI 与 Ubuntu 20.04 虚拟机通过。
  • Linux ONNX Runtime CPU:CI 与 Ubuntu 20.04 虚拟机通过。
  • Linux OpenVINO CPU:CI 与 Ubuntu 20.04 虚拟机通过。
  • 完整 OCR、单张/批量只识别、HTTP 网页、API Key、包内校验和 ELF 依赖验证通过。

English Summary

lw.PPOCR.Inference v1.3.0 formally ships three self-contained Linux x64 HTTP OCR packages for Ubuntu 20.04: OpenCV DNN CPU, ONNX Runtime CPU/CUDA, and OpenVINO CPU. All three packages have passed GitHub Actions CI and Ubuntu 20.04 VM validation.

Each package includes the native loader and backend, PP-OCRv6 tiny models, full OCR and recognition-only APIs, a browser test page, optional X-API-Key authentication, systemd scripts, licenses, and SHA-256 verification files. The public C ABI remains version 1.

The ONNX Runtime package bundles ORT 1.26.0 CPU by default. CUDA requires a compatible NVIDIA software stack and the complete matching official GPU libonnxruntime*.so* set. The OpenVINO package bundles OpenVINO 2025.2.0 and intentionally supports CPU only in this release.

v1.3.0 Preview 1 — Linux ONNX Runtime & OpenVINO HTTP Service

Choose a tag to compare

@lxw112190 lxw112190 released this 16 Jul 16:08

v1.3.0 Preview Release Notes

lw.PPOCR.Inference v1.3.0 正式增加 Linux ONNX Runtime 和 Linux OpenVINO 两套独立部署包。

两个版本均面向 Ubuntu 20.04 x86_64,包含完整 OCR、只识别接口、HTTP 服务、浏览器测试页面、PP-OCRv6 tiny 模型、API Key、systemd 服务脚本和完整校验文件。部署包解压后即可验证和启动,不需要下载仓库源码。

新增内容

  • 新增 Linux ONNX Runtime CPU/CUDA 推理后端
  • 新增 Linux OpenVINO CPU 推理后端
  • 支持完整 OCR:文字检测、方向分类和文字识别
  • 支持单张及批量“只识别”接口
  • 提供 JSON + Base64 HTTP API
  • 提供浏览器测试页面,可在原图绘制识别区域并显示各阶段耗时
  • 支持可选的 X-API-Key 请求认证
  • 支持安装为 Linux systemd 服务
  • 启动时输出作者、运行参数和请求参数信息
  • 部署包包含模型、网页、配置、运行库、许可证和 SHA-256 校验文件
  • 保持 C ABI v1 兼容,不改变已有公共结构体和后端枚举值

下载文件

ONNX Runtime CPU/CUDA

lw.PPOCR.Inference-v1.3.0-linux-x64-onnxruntime-cpu.tar.gz
lw.PPOCR.Inference-v1.3.0-linux-x64-onnxruntime-cpu.tar.gz.sha256

默认使用官方 ONNX Runtime 1.26.0 CPU Runtime,可直接进行 CPU 推理。

支持以下设备配置:

{"device":"cpu"}
{"device":"cuda"}
{"device":"auto"}
  • cpu:强制使用 CPU
  • cuda:强制使用 NVIDIA CUDA,初始化失败时直接报错
  • auto:优先尝试 CUDA,不可用时回退 CPU

发布附件不包含 CUDA、cuDNN 和 NVIDIA 驱动。启用 GPU 时,需要安装兼容的 NVIDIA 环境,并使用官方相同版本、相同 CUDA 系列的 ONNX Runtime GPU 包替换完整的 libonnxruntime*.so* 文件集合。

不要只替换单个 libonnxruntime.so,也不要混用不同 ONNX Runtime 版本或 CUDA 12/CUDA 13 文件。

OpenVINO CPU

lw.PPOCR.Inference-v1.3.0-linux-x64-openvino-cpu.tar.gz
lw.PPOCR.Inference-v1.3.0-linux-x64-openvino-cpu.tar.gz.sha256

使用官方 OpenVINO 2025.2.0 Ubuntu 20.04 Runtime,部署包已经包含:

  • OpenVINO Runtime
  • OpenVINO CPU Plugin
  • ONNX Frontend
  • oneTBB 与 hwloc
  • OCR 所需的最小 OpenCV 共享库

目标机器不需要另外安装 OpenVINO SDK。

当前版本只开放 CPU:

{"device":"CPU"}

OpenVINO GPU 暂未纳入本次稳定发布。

快速启动

下载对应的 .tar.gz.sha256 文件后执行:

sha256sum -c 文件名.tar.gz.sha256
tar -xzf 文件名.tar.gz
cd 解压后的目录

sudo ./install-deps-ubuntu.sh
./verify-linux-package.sh
./run-http-service.sh

浏览器访问:

http://127.0.0.1:8787/

请使用 run-http-service.sh 启动。该脚本会自动设置部署包私有共享库所需的 LD_LIBRARY_PATH

如果文件曾在 Windows 上解压后再上传到 Linux,脚本执行权限可能丢失,可执行:

chmod +x *.sh

HTTP API

完整 OCR:

POST /api/ocr

请求:

{
  "image_base64": "..."
}

只识别已裁剪文字区域:

POST /api/recognize

单张请求:

{
  "image_base64": "..."
}

批量请求:

{
  "images_base64": ["...", "..."]
}

健康检查:

GET /health

API Key

默认未启用 API Key,仅监听本机:

{
  "listen_host": "127.0.0.1",
  "api_key": ""
}

局域网部署建议修改为:

{
  "listen_host": "0.0.0.0",
  "api_key": "请替换为足够长的随机密钥"
}

客户端通过请求头传递:

X-API-Key: 请替换为足够长的随机密钥

不建议将未配置 API Key 的服务直接暴露到公网。

systemd 服务

完成验证和配置后执行:

sudo ./install-systemd.sh
systemctl status lw-ppocr-http.service
journalctl -u lw-ppocr-http.service -f

验证状态

  • Linux ONNX Runtime CPU:CI 构建通过
  • Linux ONNX Runtime CPU:Ubuntu 20.04 虚拟机验证通过
  • Linux OpenVINO CPU:CI 构建通过
  • Linux OpenVINO CPU:Ubuntu 20.04 虚拟机验证通过
  • 完整 OCR:验证通过
  • 单张及批量只识别:验证通过
  • HTTP 服务和浏览器测试页面:验证通过
  • 包内 SHA-256、ELF 依赖和真实模型自检:验证通过

升级说明

v1.2.0 Linux OpenCV DNN 用户可以继续使用原有部署包。

ONNX Runtime、OpenVINO 和 OpenCV DNN 使用相同的公共 C ABI 与 HTTP API,但各自的私有共享库不同。首次切换后端时,请下载对应的完整部署包,不建议只复制某个 Runtime .so 到旧目录。

v1.2.0 lw.PPOCR.Inference — Linux OpenCV DNN 首发版

Choose a tag to compare

@lxw112190 lxw112190 released this 16 Jul 13:58

lw.PPOCR.Inference v1.2.0

这是 lw.PPOCR.Inference 首个正式的 Linux 发布版本,面向 Ubuntu 20.04 x86_64,使用 OpenCV 5.0 DNN CPU 后端。

此 Release 仅提供 Linux x64 OpenCV DNN 包。
Windows 用户请继续使用 v1.1.0;不能通过替换少量文件将 Windows 包转换为 Linux 包。

主要功能

  • 支持完整 OCR:文字检测、方向分类、文字识别
  • 支持仅文字识别:直接识别客户已经裁剪好的文字区域
  • 保持稳定的 C ABI
  • 提供 JSON + Base64 HTTP API
  • 提供浏览器测试页面
  • 在原图上绘制检测到的文字区域
  • 显示图片解码、检测、分类、识别和服务总耗时
  • 支持 API Key,通过 X-API-Key 请求头认证
  • 支持前台运行和 systemd 系统服务
  • 随包提供 PP-OCRv6 tiny ONNX 模型、字典和测试图片
  • 随包提供 OpenCV 5.0 所需共享库
  • 提供 SHA-256 校验和自动验证脚本

下载文件

lw.PPOCR.Inference-v1.2.0-linux-x64-opencv.tar.gz
lw.PPOCR.Inference-v1.2.0-linux-x64-opencv.tar.gz.sha256

快速开始

sha256sum -c lw.PPOCR.Inference-v1.2.0-linux-x64-opencv.tar.gz.sha256
tar -xzf lw.PPOCR.Inference-v1.2.0-linux-x64-opencv.tar.gz
cd lw.PPOCR.Inference-v1.2.0-linux-x64-opencv

sudo ./install-deps-ubuntu.sh
./verify-linux-package.sh
./run-http-service.sh

浏览器访问:

http://127.0.0.1:8787/

HTTP API

GET  /health
POST /api/ocr
POST /api/recognize

完整 OCR:

{"image_base64":"data:image/jpeg;base64,..."}

识别已经裁剪好的文字区域:

{"image_base64":"data:image/png;base64,..."}

批量文字识别:

{"images_base64":["data:image/png;base64,...","data:image/png;base64,..."]}

API Key

默认未启用 API Key。可以在 http-service.json 中设置:

{
  "api_key": "请替换为自己的随机密钥"
}

启用后,客户端需要发送:

X-API-Key: 请替换为配置中的值

安装为 systemd 服务

sudo ./install-systemd.sh
systemctl status lw-ppocr-http.service
journalctl -u lw-ppocr-http.service -f

默认安装目录:

/opt/lw-ppocr

局域网访问

服务默认只监听 127.0.0.1。需要局域网访问时,将 http-service.json 中的配置改为:

{
  "listen_host": "0.0.0.0",
  "port": 8787,
  "api_key": "请替换为自己的随机密钥"
}

请同时配置防火墙,只允许可信客户端访问。不建议将未配置 API Key 的服务直接暴露到公网。

平台说明

  • 官方目标环境:Ubuntu 20.04 x86_64
  • 推理后端:OpenCV 5.0 DNN
  • 计算设备:CPU
  • 本版本不包含 Linux ONNX Runtime GPU、CUDA、DirectML、OpenVINO 或 TensorRT Runtime
  • Linux 不提供 WinForms Demo
  • 修改 device_id 不会启用 GPU

完整说明请参阅包内:

README.md
README_EN.md
docs/linux-opencv.md
docs/http-service.md

English Summary

This is the first official Linux release of lw.PPOCR.Inference. It targets Ubuntu 20.04 x86_64 and uses the OpenCV 5.0 DNN CPU backend.

The package includes full OCR, recognition-only inference, a JSON + Base64 HTTP API, browser test page, API Key authentication, systemd integration, PP-OCRv6 tiny ONNX models, OpenCV shared libraries, and package verification scripts.

This release contains Linux x64 files only. Windows users should continue using v1.1.0.

v1.1.0 lw.PPOCR.Inference — 只识别 API、HTTP 服务与交互式 Demo

Choose a tag to compare

@lxw112190 lxw112190 released this 16 Jul 11:35

lw.PPOCR.Inference v1.1.0

v1.1.0 是保持 API v1 和现有 ABI 向后兼容的功能版本。本版本重点完善预裁剪文字区域识别、本地 HTTP 服务和开箱即用的 Windows 体验程序。

主要更新

  • 新增 lw_ppocr_recognizelw_ppocr_recognize_batch
    • 支持直接识别已经裁剪好的文字行或文字区域
    • 不执行 detector
    • 批量结果通过 source_index 与输入保持对应
    • 是否执行方向分类继续由 enable_cls 控制
  • OpenCV DNN、DirectML、OpenVINO、TensorRT 四个 Runtime 均支持只识别接口
  • .NET 新增 RecognizeRecognizeBatch
  • Python ctypes 和 C 示例同步覆盖新 ABI
  • WinForms Demo 支持鼠标拖拽框选文字区域
    • 松开鼠标后立即执行只识别
    • 显示识别文字、置信度和本次耗时
  • 新增原生 HTTP 服务
    • POST /api/ocr:完整检测、分类和识别
    • POST /api/recognize:单张或批量只识别
    • 使用 JSON、Base64、cpp-httplib 和 nlohmann/json
  • HTTP 测试网页支持
    • 在原图上绘制文字区域
    • 显示解码、检测、分类、识别、管线及服务端总耗时
  • HTTP 服务可安装为 Windows Service
  • 统一包和每个后端拆分包均包含:
    • .NET Framework 4.7.2 WinForms Demo
    • 原生 HTTP 服务
    • 浏览器测试网页
    • Windows Service 安装/卸载脚本
    • 示例模型和图片

ABI 兼容性

  • LW_PPOCR_API_VERSION 继续保持为 1
  • v1.0.0 已冻结的结构体前缀和函数签名不变
  • 新接口采用追加式扩展
  • 使用旧 Runtime 调用新识别接口时返回 LW_PPOCR_STATUS_UNSUPPORTED
  • v1.0.0 调用方可以继续使用 v1.1.0 Loader 和 Runtime

下载选择

  • lw.PPOCR.Inference-v1.1.0-win-x64.zip
    • 包含四个推理后端的完整统一包
  • lw.PPOCR.Runtime-opencv-v1.1.0-win-x64.zip
    • 推荐用于通用 Windows CPU 部署
  • lw.PPOCR.Runtime-directml-v1.1.0-win-x64.zip
    • 适合 Intel、AMD、NVIDIA DirectML GPU
  • lw.PPOCR.Runtime-openvino-v1.1.0-win-x64.zip
    • 适合 CPU 推理和服务部署
  • lw.PPOCR.Runtime-tensorrt-v1.1.0-win-x64.zip
    • 适合 NVIDIA GPU 和固定 CUDA/TensorRT 环境
  • lw.PPOCR.Inference-core-v1.1.0-win-x64.zip
    • SDK、Loader、头文件、Demo、CLI、HTTP 服务和文档,不包含推理 Runtime

验证

  • ABI smoke、stability、forward compatibility:全部通过
  • OpenCV DNN 真实模型端到端测试:通过
  • 批量只识别及结果释放测试:通过
  • 四个 Runtime Release 构建:通过
  • .NET Framework 4.7.2 / .NET 8 构建:0 警告、0 错误
  • HTTP 完整 OCR 与批量只识别冒烟测试:通过
  • 所有 ZIP 均完成文件内容和 SHA-256 校验

校验附件

请使用 Release 附件中的 SHA256SUMS.txt,或每个 ZIP 对应的 .sha256 文件验证下载完整性。

注意事项

只识别接口不会执行 detector,但当前创建引擎时仍使用包含 detector 和 recognizer 的完整模型包。

TensorRT engine 通常与 GPU 架构、CUDA、TensorRT 和驱动版本相关。生产环境建议在目标机器或相同硬件环境中生成 engine。

TensorRT 和 CUDA 组件的使用及再分发须遵守附件包内的 NVIDIA 许可条款。

v1.0.0 lw.PPOCR.Inference — ABI冻结 · 四种后端 · 任意语言

Choose a tag to compare

@lxw112190 lxw112190 released this 16 Jul 01:40

lw.PPOCR.Inference v1.0.0 permanently freezes the public C ABI, the private
Runtime ABI, and the model manifest schema v1.

Stability promises

  • Public C ABI v1 — frozen. No function removed, no signature changed.
    Structs and enums grow append-only. LW_PPOCR_API_VERSION = 1 (permanent).
  • Private Runtime ABI v1 — frozen.
  • Model manifest schema v1 — frozen.
  • Threading & memory contract — frozen.
  • Security fixes backported for ≥ 2 years.
  • See docs/abi-v1-stability.md for the full guarantee.

Four backends, one API

Backend Device
OpenCV DNN CPU
ONNX Runtime DirectML CPU / GPU (Intel, AMD, NVIDIA)
OpenVINO CPU
TensorRT FP16 NVIDIA GPU

What's in v1.0.0

  • C ABI permanently frozen with long-term stability commitment
  • Model manifest schema v1 frozen with $id and full documentation
  • Golden correctness test suite (text, bounding boxes, scores)
  • C example (LoadLibrary + GetProcAddress, zero dependencies)
  • Python binding example (ctypes, with statement, run_file())
  • GitHub Actions CI (VS build + ABI smoke/stability + golden test)
  • Backend split packaging (-Split / -Runtime)
  • Compatibility matrix across OS, GPU, driver, and SDK versions
  • Third-party license audit (clipper BSL-1.0, OpenCV/OpenVINO Apache-2.0,
    ONNX Runtime/DirectML MIT, TensorRT/CUDA NVIDIA EULA)

Any language

C · C++ · C# · Python · Delphi · Go · Rust · Java · ...
    → lw.PPOCR.dll          (stable C ABI)
        → OpenCV DNN / DirectML / OpenVINO / TensorRT

v0.1.0 lw.PPOCR.Inference - Unified PP-OCR for Windows / Windows 统一推理首发版

Choose a tag to compare

@lxw112190 lxw112190 released this 15 Jul 15:18

lw.PPOCR.Inference v0.1.0

首个公开预览版本,统一了 OpenCV DNN、ONNX Runtime DirectML、OpenVINO 和 TensorRT 四种 PP-OCR 推理后端。

This is the first public preview, providing one unified PP-OCR API across OpenCV DNN, ONNX Runtime DirectML, OpenVINO, and TensorRT.

主要内容 / Highlights

  • 稳定、语言无关的 C ABI,任何能够调用 C DLL 的语言均可接入。

  • 四种 Runtime 完全隔离,减少 OpenCV、ONNX Runtime、OpenVINO、CUDA 和 TensorRT 的 DLL 冲突。

  • 支持文字检测、方向分类、文字识别、结构化结果、JSON、文字框、置信度和分阶段耗时。

  • 提供 .NET 8 封装、统一 CLI 和可用 Visual Studio Designer 编辑的 WinForms Demo。

  • 提供 PP-OCRv6 tiny ONNX 体验模型;TensorRT FP16 engine 与运行库放在 Windows Release 包中。

  • DirectML 支持 CPU/GPU 切换和 GPU ID;TensorRT 支持预生成 FP16 engine。

  • CLI 支持预热与多轮基准测试,输出均值、中位数、P95、最小值和最大值。

  • 附带中英文 README、TensorRT 转换文档和四后端性能测试报告。

  • Stable, language-neutral C ABI for any language that can call a C DLL.

  • Four isolated Runtime packages that avoid cross-framework DLL conflicts.

  • Detection, direction classification, recognition, structured/JSON output, boxes, scores, and stage timings.

  • .NET 8 binding, unified CLI, and a WinForms demo editable with the Visual Studio Designer.

  • Bundled PP-OCRv6 tiny ONNX experience model; TensorRT FP16 engines are included in the Windows Release package.

  • DirectML CPU/GPU selection and GPU ID support; TensorRT prebuilt FP16 engine support.

  • Repeatable CLI benchmarks with mean, median, P95, minimum, and maximum latency.

  • Chinese and English README files, TensorRT conversion guidance, and a four-backend performance report.

性能摘要 / Performance Snapshot

测试机器为 AMD Ryzen 7 7735H、RTX 4060 Laptop GPU,图片为 500×500,CLS 开启,预热 5 次后统计 30 次:

Tested on an AMD Ryzen 7 7735H and RTX 4060 Laptop GPU with a 500×500 image, CLS enabled, 5 warmups, and 30 measured runs:

Backend Mean latency P95 Estimated throughput
OpenCV DNN CPU 108.500 ms 111.118 ms 9.22 runs/s
OpenVINO CPU 45.892 ms 48.579 ms 21.79 runs/s
DirectML GPU 66.559 ms 72.218 ms 15.02 runs/s
TensorRT FP16 12.187 ms 13.636 ms 82.05 runs/s

完整测试条件见 docs/performance-report.md。Results are specific to this hardware and software stack; see docs/performance-report.md for the complete conditions.

下载与校验 / Download and Verification

下载 lw.PPOCR.Inference-v0.1.0-win-x64.zip,并使用同目录下的 .sha256 文件验证完整性:

Download lw.PPOCR.Inference-v0.1.0-win-x64.zip and verify it with the accompanying .sha256 file:

$expected = (Get-Content .\lw.PPOCR.Inference-v0.1.0-win-x64.zip.sha256).Split(' ')[0]
$actual = (Get-FileHash .\lw.PPOCR.Inference-v0.1.0-win-x64.zip -Algorithm SHA256).Hash.ToLowerInvariant()
$actual -eq $expected

TensorRT engine 与 GPU 架构、TensorRT、CUDA 和驱动环境相关。生产部署建议在目标机器或相同环境中重新生成 engine。

TensorRT engines depend on the GPU architecture, TensorRT, CUDA, and driver stack. Regenerate production engines on the target machine or an identical environment.

兼容性 / Compatibility

  • Windows 10/11 x64
  • .NET 8 Desktop Runtime for the managed demo and CLI
  • NVIDIA GPU, compatible driver, and CUDA/TensorRT stack for the TensorRT backend
  • MIT License; Clipper 6.4.2 remains under BSL-1.0

v0.1.0 is a pre-1.0 preview. Public interfaces may still evolve before API v1 is frozen.