New
Release v0.9.0
新特性
- 集成 Paddle 2.3 Inference : #1781
- C++ Serving 异步框架自动批量 :#1685
- C++ Serving 适配 Jetpack 4.6 : #1700
- C++ Serving 异步框架支持2维 LOD Pedding : #1713
- 大模型分布式推理 :#1753,#1783
- C++ Serving 支持 TensorRT Dynamic Shape:#1759
功能增强
- 更新 C++ Serving OCR 的部署案例:#1759
- 新增 Python Pipeline 自动生成TRT 动态shape : #1778
- 新增 Python Pipeline 低精度部署案例:#1753
- 新增 离线Wheel 安装 :#1792
- 升级 前后端 protobuf Response 结构:#1783
文档和示例变更
- 新增 AIStudio OCR 实战(首页)
- 新增 政务问答解决方案(首页)
- 新增 智能问答解决方案(首页)
- 新增 语义索引解决方案(首页)
- 新增 PaddleNLP 示例: #1773
- 新增 doc/Install_Linux_Env_CN.md:#1788
- 新增 doc/Python_Pipeline/Pipeline_Int_CN.md:#1788
- 新增 doc/Python_Pipeline/Pipeline_Features_CN.md:#1788
- 新增 doc/Python_Pipeline/Pipeline_Optimize_CN.md:#1788
- 修改 README.md: #1788
- 修改 README_CN.md: #1788
- 修改 doc/C++_Serving/ABTest_CN.md:#1788
- 修改 doc/C++_Serving/Asynchronous_Framwork_CN.md: