AI Task平台使用手册
实验流程_平台可视化版本
01-数据工程
02-复制算法
03-模型训练
04-模型推理
05-模型编译
06-模型下载并固化
07-本地推理
08-附:镜像配置与保存
实验流程_NoteBook版本
01-数据工程
02-算法创建
03-模型训练
04-模型推理
05-模型编译
06-模型下载并固化
07-本地推理
08-附:镜像配置与保存
本文档使用 MrDoc 发布
-
+
首页
05-模型编译
5.1进入编译管理,选择创建任务。  5.2输入信息以及运行命令,点击创建编译任务。  TPU类型为AMC: 将以下代码复制到运行命令中: cd /leap&&cp /dataset/data.yaml ./&&cp /model/best_kneron.onnx /leap/model/&&python3 create_csv.py --onnx_model /leap/model/best_kneron.onnx --csv_filename best_kneron.csv --model_input1_shape3=640 --model_input1_shape4=640&&find /dataset -name "*.jpg"| shuf -n 20 | xargs -I {} cp {} /leap/model/&&mv best_kneron.csv ./model/&&export LD_LIBRARY_PATH="/leap/CDNN_CONVERT/Dll/LINUX:$LD_LIBRARY_PATH"&&cd /leap/CDNN_CONVERT/exe&&ls /leap/model/&&./LFNetworkGenerator --network /leap/model/best_kneron.onnx --input /leap/model/ -p xm6 -h nprs -d 512 --profiler long -c -t 8bit --FreqAndAXI 1000 256&&mv /leap/model/*.lfQdata /tpumodel/best.lfdata&&mv /leap/data.yaml /tpumodel ==运行命令具体含义如下:== 5.2.1`cd /leap&&cp /dataset/data.yaml ./&&cp /model/best_kneron.onnx /leap/model/&&` 切换到 /leap 目录,复制数据集配置文件 data.yaml 到当前目录,复制 Kneron 优化后的 ONNX 模型到 /leap/model/ 5.2.2`python3 create_csv.py --onnx_model /leap/model/best_kneron.onnx --csv_filename best_kneron.csv --model_input1_shape3=640 --model_input1_shape4=640&&` --onnx_model: 输入 ONNX 模型路径 --csv_filename: 输出 CSV 文件名(包含输入/输出节点信息) --model_input1_shape3=640: 输入张量第3维尺寸(高度) --model_input1_shape4=640: 输入张量第4维尺寸(宽度) 5.2.3`find /dataset -name "*.jpg"| shuf -n 20 | xargs -I {} cp {} /leap/model/&&mv best_kneron.csv ./model/&&` 随机选择 20 张图片作为量化校准数据,移动 CSV 文件到模型目录 5.2.4`export LD_LIBRARY_PATH="/leap/CDNN_CONVERT/Dll/LINUX:$LD_LIBRARY_PATH"&&` 添加 Kneron 转换工具所需的动态库路径 5.2.5`cd /leap/CDNN_CONVERT/exe&&ls /leap/model/&&./LFNetworkGenerator --network /leap/model/best_kneron.onnx --input /leap/model/ -p xm6 -h nprs -d 512 --profiler long -c -t 8bit --FreqAndAXI 1000 256&&` 执行模型编译 -p xm6 :Kneron XM6 系列 AI 加速芯片 -h nprs :硬件加速模式(Non-Pipelined Resource Sharing) -d 512 :内存接口位宽(512-bit 带宽优化) --profiler long :生成详细运行时性能报告 -c 无值 :启用编译模式(非模拟模式) -t 8bit :量化精度(支持 8/16-bit) --FreqAndAXI 1000 256 :核心频率 1000MHz,AXI 总线宽度 256-bit 5.2.6`mv /leap/model/*.lfQdata /tpumodel/best.lfdata&&mv /leap/data.yaml /tpumodel` 将编译生成的 .lfQdata 文件(量化后的模型数据)重命名为 best.lfdata 并移动到 TPU 模型目录,移动数据集配置文件到部署目录。 5.3编译完成后可以在列表中看到已成功 
gdsoke
2025年5月29日 09:53
转发文档
收藏文档
上一篇
下一篇
手机扫码
复制链接
手机扫一扫转发分享
复制链接
Markdown文件
分享
链接
类型
密码
更新密码