| |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
-> 人工智能 -> 一文带你认识AscendCL -> 正文阅读 |
|
[人工智能]一文带你认识AscendCL |
摘要:AscendCL(Ascend Computing Language,昇腾计算语言)是昇腾计算开放编程框架,是对底层昇腾计算服务接口的封装。 本文分享自华为云社区《【CANN文档速递09期】应用开发之推理场景》,作者:昇腾CANN。 01 认识AscendCLAscendCL(Ascend Computing Language,昇腾计算语言)是昇腾计算开放编程框架,是对底层昇腾计算服务接口的封装,它提供运行时资源(例如设备、内存等)管理、模型加载与执行、算子加载与执行、图片数据编解码/裁剪/缩放处理等API库,实现在昇腾CANN平台上进行深度学习推理计算、图形图像预处理、单算子加速计算等能力。简单来说,就是统一的API框架,实现对所有资源的调用。 AscendCL的优势如下:1.?高度抽象:算子编译、加载、执行的API归一,相比每个算子一个API,AscendCL大幅减少API数量,降低复杂度。 2.?向后兼容:AscendCL具备向后兼容,确保软件升级后,基于旧版本编译的程序依然可以在新版本上运行。 3.?零感知芯片:一套AscendCL接口可以实现应用代码统一,多款昇腾处理器无差异。 AscendCL的主要应用场景如下:1.?开发应用:用户可以直接调用AscendCL提供的接口开发图片分类应用、目标识别应用等。 2.?供第三方框架调用:用户可以通过第三方框架调用AscendCL接口,以便使用昇腾AI处理器的计算能力。 3.?供第三方开发lib库:用户还可以使用AscendCL封装实现第三方lib库,以便提供昇腾AI处理器的运行管理、资源管理等能力。 02 开发流程此处以开发应用为例,先总览整个开发流程: 构建模型在往期文档速递中有介绍,拖动到文末查阅。 这一期的内容我们侧重介绍开发应用的流程以及编译调试应用。后期我们还会展开介绍模型推理场景下的应用开发、以及应用的精度调优。 03 AscendCL接口调用流程此处以开发应用为例,说明基于AscendCL的接口调用流程。 1.AscendCL初始化初始化AscendCL内部资源,为运行应用做准备。 2.运行管理资源申请申请运行时相关资源,例如计算设备。 3.媒体数据处理如果模型对输入图片的宽高要求与用户提供的源图不一致,AscendCL提供了媒体数据处理的接口,可实现抠图、缩放、视频或图片的编解码等,将源图裁剪成符合模型的要求。 4.模型推理或执行算子支持整网推理和单个算子的运算。模型推理、执行算子涉及的接口调用流程不同: ● 关于模型推理 需要实现模型推理的功能,则需要先加载模型,然后执行模型,模型推理结束后,则需要卸载模型。 模型推理结束后,如果需要获取并进一步处理推理结果数据,则由用户自行编码实现。例如,在图片分类推理场景下,则需要用户编码从推理结果中查找最大置信度的类别标识对图片分类。 ● 关于执行算子 需要实现执行单个算子的功能,同样也需要加载模型,然后执行算子即可,无需卸载模型。此处虽然也是加载模型,但加载接口与模型推理时的加载接口不同,且此处的模型只支持使用ATC工具转换生成。 5.运行管理资源释放资源使用完成后需及时释放。 6.AscendCL去初始化与初始化配对使用。 04 编译运行应用此处我们以一个“基于Caffe ResNet-50网络实现图片分类”的应用为例,来说明编译运行应用的基本步骤以及运行应用后如何查看图片所属分类。编译运行应用依赖CANN软件,因此您需要先根据对应版本的安装指南安装CANN软件。 接下来我们就可以通过下面这个小视频3分钟体验下编译运行。 视频链接:https://v.qq.com/x/page/w3271yntt45.html 体验完了,是不是意犹未尽,想自己操作一把呢,来吧!您可以从昇腾CANN样例仓(?samples: CANN Samples?)获取该样例以及详细的使用说明。 05文档获取了解更详细的内容,登录昇腾社区,在开发者文档中心(昇腾社区-官网丨昇腾万里 让智能无所不及)阅读相关文档: |
|
|
上一篇文章 下一篇文章 查看所有文章 |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 | -2024/11/25 22:34:26- |
|
网站联系: qq:121756557 email:121756557@qq.com IT数码 |