Skip to content
Merged
Original file line number Diff line number Diff line change
Expand Up @@ -5,8 +5,7 @@
> * 第一阶段:RFC 方案提交
> 1. 提交方式:1)以 issue 的形式进行提交到[这儿](https://github.com/openvinotoolkit/openvino_notebooks/issues),2)标题处打上【PaddlePaddle Hackathon 10】,3)RFC 语言不做强制要求
> 2. 基本要求:1)应用场景与现有 notebook demo 不重复,2)该示例中需要使用最新版本的 openvino 完成所有模型的推理部署
> 3. 筛选依据:1)该示例在真实场景下是否具有实际应用价值,2)该示例的流程逻辑是否清晰,3)运行结果是否符合预期
>
> 3. 筛选依据:1)该示例在真实场景下是否具有实际应用价值,2)该示例的流程逻辑是否清晰,3)运行结果是否符合预期
> * 第二阶段:PR代码提交
> 1. 提交地址: https://github.com/openvinotoolkit/openvino_notebooks ,标题加上【PaddlePaddle Hackathon 10】字样,并在描述处链接之前的 RFC 地址
> 2. 该 PR 需满足 notebook 贡献规范,开发者需要及时根据 review 的结果进行 PR 修改
Expand Down Expand Up @@ -77,7 +76,26 @@
* 技术要求:熟练掌握 Python、文心系列模型与 PaddleOCR-VL 的调用与部署方式,以及在天数智芯硬件上的运行环境配置。
* 参考文档:[飞桨 AI Studio](https://aistudio.baidu.com/modelsoverview)、[ERNIE-4.5-VL-28B-A3B-Thinking 模型](https://huggingface.co/baidu/ERNIE-4.5-VL-28B-A3B-Thinking)、[PaddleOCR-VL-1.5 模型](https://huggingface.co/PaddlePaddle/PaddleOCR-VL-1.5)

### 请 沐曦 填写
### 沐曦:优化 PaddleOCR-VL-1.5+Metax GPU

- 技术标签:深度学习框架,Python,PaddleOCR-VL-1.5,Metax GPU

- 详细描述:*PaddleOCR* 是智能文档解析与文字识别工具,支持多语言识别与手写体识别,轻松处理PDF、图片等格式,高效提取文字信息。为此我们也想基于PaddlePaddle + FastDeploy + Metax GPU实现更优的推理性能。在这个任务中,你需要基于:

```
paddlepaddle==3.4.0.dev20251223
paddle-metax-gpu==3.3.0.dev20251224
https://github.com/PaddlePaddle/FastDeploy/tree/release/2.4
```

- 本次任务评估将分为两个阶段:
- 第一阶段,开发者需要提供一份性能瓶颈分析评估报告(包含但不限于推理框架调度,GPU 利用率,5个以上kernel函数分析),按照 profiling trace 文件+分析报告形式提交;
- 第二阶段,我们将从第一阶段提交的结果中,review 并 comment 需要进一步优化的算子,并请相对应的开发者根据确定的性能瓶颈点提交优化 PR,预期性能提升目标 20%+。

- 提交内容:
- 第一阶段:[PR 提交地址](https://github.com/PaddlePaddle/community/tree/master/rfcs/FastDeploy)
- 第二阶段:[PR 提交地址](https://github.com/PaddlePaddle/FastDeploy/tree/develop)


### 基于燧原卡为`FastDeploy`新增应用
* 技术标签:PaddlePaddle,FastDeploy,Python
Expand All @@ -103,6 +121,7 @@
* 技术要求:熟练掌握 python 和 FastDeploy 部署流程与其他工具组件的使用方法
* 参考文档:[FastDeploy](https://paddlepaddle.github.io/FastDeploy/zh/) 、[飞桨AI Studio](https://aistudio.baidu.com/overview)


### 请 海光 填写

### 请 瀚博 填写
Expand Down
Loading
Sorry, something went wrong. Reload?
Sorry, we cannot display this file.
Sorry, this file is invalid so it cannot be displayed.
Loading
Sorry, something went wrong. Reload?
Sorry, we cannot display this file.
Sorry, this file is invalid so it cannot be displayed.
Original file line number Diff line number Diff line change
@@ -0,0 +1,75 @@
# 【热身打卡】Metax GPU+ PaddleOCR-VL-1.5 + FastDeploy 编译打卡

## 一、Metax GPU + FastDeploy 编译打卡

从源码编译开始,解锁国产GPU高性能推理框架开发之路

**各位飞桨开发者大家好!**

为了帮助更多小伙伴快速进入Metax GPU FastDeploy 二次开发生态,熟悉大型框架的工程结构与编译流程,飞桨社区特推出本次 **FastDeploy 热身打卡活动**。
通过亲手完成一次完整的 FastDeploy 编译与打包流程,你将正式具备参与 FastDeploy 套件开发的基础能力。

## 二、活动目标

通过本次打卡,你将掌握:

- **FastDeploy 源码结构**
- **Paddle 运行时与 FastDeploy 的依赖关系**
- **自定义算子编译机制**
- **wheel 构建与分发流程**
- **二次编译优化与开发调试效率提升方法**
- **Metax GPU backend与paddle 框架的关系**
- **基于Metax GPU 运行FastDeploy 推理框架**

注:本次热身打卡活动需要使用 Metax GPU 硬件**,赶快行动起来吧。


## 三、提交方式

参与热身打卡活动并按照邮件模板格式将截图发送至 ext_paddle_oss@baidu.com 与 kaichuang.gao@metax-tech.com。

## 四、准备环境

以MetaxGPU 版本为例:

#### 容器镜像获取

```
https://ai.gitee.com/compute/instances/new?id=3
Pytorch/2.6.0/Python 3.10/maca 3.2.1.3
```

#### paddle & custom backend 预安装

```
1)pip install paddlepaddle==3.4.0.dev20251223 -i https://www.paddlepaddle.org.cn/packages/nightly/cpu/
2)pip install paddle-metax-gpu==3.3.0.dev20251224 -i https://www.paddlepaddle.org.cn/packages/nightly/maca/
```

#### FastDeploy代码下载并编译

```
git clone https://github.com/PaddlePaddle/FastDeploy
cd FastDeploy
```

## 五、编译打卡流程

1)熟悉并了解编译脚本,编译参数配置,完成fastdeploy编译,编译产物位于~/fastdeploy/dist;
运行成功后,终端输出结果如下:
![Metax-infer-result](./images/fastdeploy-Metax-C5xx-infer-result1.png)

2)完成 fastdeploy 编译产物 wheel 包安装,了解安装路径;
![Metax-infer-result](./images/fastdeploy-Metax-C5xx-infer-result2.png)


## 邮件格式
* 标题: [飞桨黑客松第十期FastDeploy编译任务打卡]
* 内容:
* 飞桨团队你好,
* 【GitHub ID】:参赛选手本人 GitHub 打卡任务仓库地址
* 【打卡内容】:编译/安装 fastdeploy whl 包
* 【环境信息】:OS / CPU / GPU / FastDeploy / PaddlePaddle 版本
* 【打卡截图】:(粘贴截图或提供链接)