2023年8月23日,由电子发烧友网和elexcon深圳国际电子展联合主办的2023第七届人工智能大会在深圳召开。以“智向远大,能者千面”为主题,本届大会汇聚行业顶尖的专家、学者、企业代表,共同寻找人工智能产业发展新机遇。

爱芯元智AI推理引擎总监唐琦受邀出席大会,发表《Transformer视觉大模型在边缘侧的部署》主题演讲,分享基于爱芯通元混合精度NPU部署Transformer视觉模型的落地实践,并正式发布开发者套件——爱芯派Pro。第四届人工智能卓越创新奖同期颁发,凭借在边缘AI赛道的强大自研实力和突出落地成果,爱芯元智AX650N获评“最具创新价值产品奖”。

(资料图片)

端侧智能快速普及Transformer视觉模型应用走向新高度

自2015年,AI模型的物体识别准确率在ImageNet的图像分类比赛中首次超过人类以来,人工智能行业便正式进入到新航海时代。而近年来,伴随着芯片行业制程的进步以及AI模型小型化、轻量化的趋势,AI模型在扫地机器人、家用摄像头、智能音箱等产品的本地化部署成为现实,端侧智能得到普及。

“到现在为止,基于传统CNN模型的云、边、端三角互补的算力主线已经完成”,唐琦在演讲中表示。而在AI模型从云端往端侧迁移的过程中,Transformer网络结构也在不断进步,并随着ChatGPT的火爆备受关注。回顾Transformer视觉模型的发展历史,从基于Transformer网络结构的语义分割模型应用于自动驾驶场景,到分割万物的SAM和基座视觉大模型DINOv2,Transformer视觉模型的应用正走向新的高度。

致力于打造世界领先的人工智能视觉芯片,爱芯元智专注于高性能、低功耗的边缘侧、端侧人工智能处理器芯片开发,布局智慧城市、智能驾驶和AIoT三大业务市场。基于智慧城市的升级改造,L2/L2+智能驾驶的应用大规模落地,以及终端设备智能化需求的扩大,爱芯元智将在边缘感知智能芯片上持续投入,持续打造感知和计算基础能力。

加快AI开发落地效率 用视觉连接数字世界和物理世界

从智慧城市到智能驾驶再到AIoT,爱芯元智之所以能做到三大应用场景全覆盖,依托于公司自研的爱芯智眸AI-ISP和爱芯通元混合精度NPU两大核心技术。

爱芯智眸AI-ISP是将深度学习算法与传统的ISP处理单元相结合,作为万物智能的“眼睛”感知更多信息,特别是暗光全彩的刚需。其拥有六大技术亮点:AI星光全彩、AI HDR成像、AI多光谱融合、AI防抖、AI场景增强、AI多传感器融合,在暗黑道路、隧道出口、颠簸路段等多个行车场景下可全面提高画质,实现更优质的视觉效果。

爱芯通元混合精度NPU作为爱芯元智另一大核心自研技术,支持INT4/INT8/INT16三种计算精度,具有高性能、低成本、易使用的突出优势。值得一提的是,在汲取前两代产品的市场反馈并结合行业前沿技术的发展趋势之下,第三代爱芯通元混合精度NPU进一步增强了算子支持种类和不同精度的混合计算,优化了内部内存调度机制,同时可高效率支持CNN网络和Transformer网络模型。而针对爱芯通元3.0 NPU研发的工具链——Pulsar2则进一步完善了工具链的功能和易用性,支持主流深度学习训练框架的模型部署,支持PTQ、QAT两种不同的量化操作,满足各种场景的量化调优功能。

Transformer模型在爱芯元智NPU上部署非常简单高效,以SwinT模型为例:从PyTorch的官方ModelZoo上直接下载SwinT的ONNX模型,不需要做任何模型或算子修改,就可以实现SwinT的量化压缩和编译,达到199 FPS/W的高能效比。而会上获评“最具创新价值产品奖”的AX650N作为爱芯元智在今年推出的高性能芯片产品,基于第三代NPU,在边缘侧、端侧部署Transformer具有高性能、高精度、易部署、低功耗等特性,是业内首屈一指的Transformer落地平台。

打造芯片开发者生态 爱芯派Pro助力视觉大模型落地

大会上,爱芯元智正式推出开发者套件——“爱芯派Pro”,这款联合硬件生态伙伴共同打造的开发者套件,意在为社区开发者低成本地体验视觉大模型在边缘侧、端侧的便捷部署。爱芯派Pro搭载AX650N,拥有高算力和超强编解码能力,可满足行业对高性能边缘智能计算的需求,实现视频结构化、行为分析、状态检测等应用,高效率支持CNN模型和Transformer视觉大模型。

在爱芯派Pro发售的同时,爱芯元智还将释放集成模型量化、模型编译、模型部署三合一功能的新一代AI工具链Pulsar2的社区版本以及丰富的开发文档,方便用户快速进行产品原型验证和二次开发,帮助用户在智慧城市、智慧交通、智慧教育、智能制造等领域发挥更大的价值。

目前,爱芯元智已经量产了四代多颗应用于不同行业领域的视觉感知芯片,并坚持基于算法、芯片、产品的垂直整合,为合作伙伴提供全栈式解决方案,帮助客户实现最新技术的快速落地。面向人工智能产业的高速发展,爱芯元智也将通过持续的技术创新,提高芯片性能、降低成本,让边端智能更加普惠,最终实现“普惠AI 造就美好生活”的使命。