PaddleNLP 2.5.1 Release Note Candidate

[sijunhe]

New Features

PPDiffusers

• PPDiffusers支持从HF Hub加载和上传模型 [PPDiffusers] implement save_to_hf_hub for pipelines, models, and Preprocessor #4640 [PPDiffusers] add from_hf_hub to from_pretrained  #4625
• 新增 AutoEncoder 的训练流程 [PPDiffusers] Add vae training #4137
• 新增 LoRa ，支持使用lora训练 dreambooth、text_to_image，同步更新上述训练脚本 [PPDiffusers] Add lora training scripts #4768

AutoNLP

• AutoNLP分类支持英语模型 [AutoNLP] Add english models for text classification #4704
• AutoNLP分类中文模型统一升级为Ernie 3.0 Tiny v2系列 [AutoNLP] switch to ernie-3.0-tiny-v2 models #4827
• AutoNLP优化log控制能力 [AutoNLP] refactor verbosity for more effect log control #4844

基础底座

• ERNIE-Layout支持re-compute Support recompute for ernie-layout #4490
• Roberta, T5结构新增AutoConverter功能，可以直接加载torch模型
• 将PaddleNLP内所有激活函数统一至paddlenlp.transformers.activations Standardize Activation Fn #4589
• Nezha, GauAlpha 模型结构完成transformers统一体验升级
• 给 Chineseclip 模型支持AutoModel 的功能 [New features] support chineseclip auto model #4585
• 添加 model-zoo 测试样板间 [New features] testing example of model zoo #4398
• 新增BLIP 1.0模型，支持CLIP Interrogator图生文 [NEW Model] Add BLIP Model & CLIP Interrogator #4676
• 删除CLIP、ErnieVil、ChineseCLIP中重写的 from_pretrained_v2 方法 CLIP, ErnieViL, ChineseCLIP Remove from_pretrained_v2  #4797
• 新增polynomial学习率变化策略，DataCollatorForLanguageModeling，DataCollatorForWholeWordMask API Add cosine scheduler, datacollator, update clip #4826

UTC

• 新增 utc-xbase, utc-base, utc-medium, utc-mini, utc-micro, utc-nano, utc-pico 版本，默认模型由 utc-large 切换为 utc-base [utc] add small scale models #4716 [utc] set utc-base as default model #4825
• 新增 UTC 英文文档 Add English Documents for UTC #4476

Pipelines

• 新增跨模态检索端到端的方案，支持以文搜图的整套服务化部署方案。Add Image Text Retrieval taskflow&pipelines API #4516

Bug Fix

• 修复UIE-X特殊字符预测结果偏移问题 Fix offset mapping for uie-x #4687
• 修复Taskflow中zero_shot_text_classification任务本地模型加载失败的问题 [utc] fix loading local model in taskflow #4505
• 修复UTC 模型batch内对cls_positions gather结果不符合预期的问题 [utc] fix cls_positions #4785
• 修复bos模型下载notebook内的tqdm体验问题 Fix tqdm in downloader #4603
• 删除多余的protobuf依赖 Try to remove protobuf dependency #4600
• 修复ernie-m自动生成attention_mask的错误 Fix generating attention_mask of ernie-m #4494
• 修复pre-release版本下载安装 [Function optimization] support pre-release package #4661
• 修改 AutoConverter 中精度对比随机性的问题 [Bug fixes] fix logit compare in autoconverter models #4568
• 修复非community的model权重，在多机或者多卡情况下下载的错误问题 fix download error multi gpu or multi node #4491
• 修复information_extraction, unified_sentiment_analysis, model_zoo/uie中参数is_shuffle的传参类型问题 [BigFix] Fix the bool parameter inputting problem #4460
• 修复 T5 FastGeneration sampling 结果出错的问题 Fix memory access in sampling #4624