https://github.com/paddlepaddle/paddle-inference-demo

https://github.com/paddlepaddle/paddle-inference-demo

Last synced: over 1 year ago
JSON representation

• Host: GitHub
• URL: https://github.com/paddlepaddle/paddle-inference-demo
• Owner: PaddlePaddle
• License: apache-2.0
• Created: 2020-05-06T08:35:27.000Z (about 6 years ago)
• Default Branch: master
• Last Pushed: 2024-07-30T12:55:45.000Z (almost 2 years ago)
• Last Synced: 2024-07-30T16:14:51.919Z (almost 2 years ago)
• Language: C++
• Size: 189 MB
• Stars: 232
• Watchers: 71
• Forks: 155
• Open Issues: 10
• Metadata Files:
  • Readme: README.md
  • License: LICENSE

Awesome Lists containing this project

README

          
# Paddle Inference Demos

Paddle Inference为飞桨核心框架推理引擎。Paddle Inference功能特性丰富，性能优异，针对服务器端应用场景进行了深度的适配优化，做到高吞吐、低时延，保证了飞桨模型在服务器端即训即用，快速部署。

为了能让广大用户快速的使用Paddle Inference进行部署应用，我们在此Repo中提供了C++、Python的使用样例。

**在这个repo中我们会假设您已经对Paddle Inference有了一定的了解。**

**如果您刚刚接触Paddle Inference不久，建议您[访问这里](https://www.paddlepaddle.org.cn/inference/master/guides/introduction/index_intro.html)对Paddle Inference做一个初步的认识。**

## 测试样例

1） 在python目录中，我们通过真实输入的方式罗列了一系列的测试样例，其中包括图像的分类，分割，检测，以及NLP的Ernie/Bert等Python使用样例，同时也包含Paddle-TRT， 多线程的使用样例。

2） 在c++目录中，我们通过单测方式展现了一系列的测试样例，其中包括图像的分类，分割，检测，以及NLP的Ernie/Bert等C++使用样例，同时也包含Paddle-TRT， 多线程的使用样例。

注意：如果您使用2.0以前的Paddle，请参考[release/1.8分支](https://github.com/PaddlePaddle/Paddle-Inference-Demo/tree/release/1.8)