[2026 犀牛鸟] ncnn现已支持ernie-image turbo

[futz12]

ernie-image-ncnn-vulkan是基于ncnn推理框架的Ernie Image文生图模型本地推理实现，支持 Vulkan GPU 加速与 CPU 回退。通过 ncnn 的 Vulkan 后端，可在 NVIDIA / AMD / Intel 等支持 Vulkan 的显卡上高效运行图像生成任务。

✨ 功能特性

• 🎨 文本到图像生成：输入中文/英文/日文提示词，生成高质量图像
• 🚀 Vulkan GPU 加速：自动选择最优 GPU，支持 bf16 storage 与 packing layout 优化
• 🧠 Prompt Enhancer（PE）模块：可选的提示词增强，自动扩写简短描述
• 🖼️ 灵活分辨率：支持 16 的整数倍的任意宽高组合（如 512×512、1024×1024、1376×768）
• ⚡ Turbo 模型支持：8 步即可生成可用结果
• 📝 提示词文件支持：通过 --prompt-file 读取长提示词，避免命令行转义问题

🛠️ 环境要求

• Windows / Linux / macOS
• CMake >= 3.10
• 支持 Vulkan 1.0+ 的显卡（可选，CPU 模式亦可运行，只不过极慢）
• Visual Studio 2022（Windows）或 GCC/Clang（Linux/macOS）
• 内存+显存 > 32GB (若支持rebar)
• 显存 >= 24GB (若不开启低内存模式或不支持rebar)

📦 模型准备

将 Ernie Image 的 ncnn 导出模型放置到 models/ 目录下。可以从 Hugging Face 下载预转换好的 ncnn 模型：

🔗 wuyex/ernie-image-ncnn

下载后目录结构应如下：

models/
├── dit/           # DiT 模型参数
│   ├── chunks.ncnn.param
│   ├── chunks.ncnn.bin
│   ├── finalizer.ncnn.param
│   ├── finalizer.ncnn.bin
│   ├── preprocessor.ncnn.param
│   └── preprocessor.ncnn.bin
├── text_encoder/  # 文本编码器
├── vae/           # VAE 解码器
└── pe/            # Prompt Enhancer（可选）
    ├── decoder.ncnn.param
    ├── decoder.ncnn.bin
    ├── embed_tokens.ncnn.param
    ├── embed_tokens.ncnn.bin
    ├── lm_head.ncnn.param
    ├── lm_head.ncnn.bin
    └── tokenizer/

模型权重请遵循对应模型发布方的许可协议。