中国航空发动机集团简介、直属单位与主营业务
2022年04年24日
航空产业网 2024-04-09
212
0
0
西安翔腾微电子科技有限公司申请一项名为"一种面向NPU计算架构的神经网络推理性能分析方法"的专利，申请日期为2023-12-18。
专利摘要显示，本发明涉及一种面向NPU计算架构的神经网络推理性能分析方法，本发明包括以下步骤：1）分析NPU计算架构，确定硬件单元组成方式；2）确定NPU支持的神经网络算子数量及各算子的功能；3）分析各算子的计算原理，明确算子参数与计算量的关系；4）依据算子参数对计算量的影响，对所有支持的算子、组合算子构建测试集并进行测试；5）统计所有测试集的推理时间，分析NPU硬件单元执行算子推理的特征，总结各算子在硬件单元的推理时间与参数的关系；6）分析待加速神经网络算法的网络结构以及所涉及的算子，明确算法每一层的算子、以及输入大小和参数；7）分析并总结算法推理时间与各层算子推理时间的关系。本发明能够通过分析NPU计算架构执行算子推理的时间特征，在后续神经网络算法部署过程中，为算法部署过程中算法的优化和设计时算子的选择提供指导依据。
查看详情 : 一种面向NPU计算架构的神经网络推理性能分析方法
原文链接 :
点击查看
评论 (0)