智能边缘正在改变我们的生活。
当我们将衣物扔进洗衣机,不用再紧盯着洗衣机,而是可在手机上随时查看进度,并且还能轻松查看历史洗衣用时、用电、用水等情况。当我们带上TWS耳机,心率、血压、体温等参数便会随时上传到手机内,让我们可以随时监测身体状况。
而要实现这样的功能,不仅需要强大算力的芯片,更要功耗较低的芯片。AI MCU便是好选择,ADI(Analog Devices,亚德诺半导体)作为半导体行业巨头,正在激活边缘智能,以此改变我们的生活。
能“救近火”的边缘AI也有痛点
何谓“智能边缘”?这一概念中边缘指的是物理世界和数字世界之间的边界,比如各种温度传感器、加速度传感器、声学传感器等,这些传感器联系了我们所处的真实的物理世界和看不见摸不着的数字世界,构成一组组边缘节点。智能边缘就是这些边缘节点也具备智能的特征,可以提供高级数据分析、场景感知、实时决策、自组织与协同等服务。
纵观整个行业趋势,AI与IoT正在深度融合,边缘AI技术又成为智能边缘的重点。边缘AI技术是相对于云端AI技术而言的,因此又可以被称为终端AI技术,最早起源于20世纪90年代的边缘计算。之所以被称为边缘AI,是因为边缘AI技术在靠近用户本地的终端网络边缘执行AI运算,而不是将数据集中在云或数据中心进行处理。所以,设备可以在本地自行做出运算与决策,不一定必须要连接到互联网。
通俗来讲,大致可认为如果设备本身不能做出AI处理,要借助互联网上传数据,通常这是云端AI;如果反之的话,这就是边缘AI。
相比于云端AI,由于不需要将数据上传至云端,边缘AI具备实时性好、带宽资源要求低、隐私性高等特点,特别适合物联网应用。和云端AI相同,边缘AI也具备AI的共性特征。
据预测,2025年将有75%的数据在边缘侧处理,因此边缘AI可以在许多方面大显身手。例如,森林火灾监测、公路、铁路或大坝塌方监测等应用场景。这些地方普遍比较偏僻,通信网络不是很好,交通不是很方便,但快速决策和及时预警非常关键,一旦发生事故救援不及时的话会导致很大的人员伤亡和财产损失。因此必须通过边缘AI快速判定。
传统的云端监测可能需要发送大量视频或图片上到云端,对网络流量的要求很高。但是上述场景中,网络并不很好,这就是矛盾所在。通过边缘AI的自主智能识别,紧急情况发生时只需要设备发送的一条短信就可以快速实现报警的功能,从而避免更严重的灾害发生。
边缘AI的优点可以用《韩非子·说林上》中的一句话来阐释,即“失火而取水于海,海水虽多,火必不灭矣,远水不救近火也。”云端AI相当于是大海,虽然水多、能力强,但对于特殊的场景终究远水解不了近渴。
虽然边缘AI技术能够造福人类,但它也有自己的难点。如果说IoT相当于人身上遍布的周围神经网络,那么AI则相当于人的大脑。然而,要达到类似于人类的智能,设备必然需要进行大量的矩阵运算,这意味着大量的存储空间、强大的计算能力、高速的数据交互,成本很高,往往只有部署在云端的大型服务器才能够胜任这一工作。
然而,由于IoT技术是物与物之间的互连,多数设备是需要电池供电的,并且数据在物与物之间的流通并不能完全依赖于云端,因此物联网通常意味着低成本和低功耗。这就使得AI技术与IoT技术的融合产生了一定矛盾与困难。
AI MCU是解决痛点的关键
MCU是实现边缘AI的关键。MCU英文全称为Microcontroller Unit,中文名是微控制器或单片机,被称为电子系统的“大脑”。
没有MCU,我们便不能称为是现代人,它覆盖了我们生活各种场景,包括消费、工业、医疗、汽车等。MCU可在这些场景中实现传感器管理、数据采集、逻辑控制、算法、嵌入式安全认证、数据通讯、电源管理、云计算与人工智能,起到了中枢神经的作用。
比如说,家里的电饭煲、空调、洗衣机等电器,所有的功能就是使用MCU配合不同电路实现的。此外,结合物联网、云计算与人工智能,MCU在智能家居、智能电网、现代农业、辅助诊断等方面也有了新的突破。
针对这些痛点,ADI的边缘AI技术将二者的优点结合,从而实现在物联网设备的边缘端执行AI推理,比云计算的速度更快。
通常,边缘AI可由通用的MCU芯片完成,也可以由FPGA、GPU、DSP等专门的芯片完成,而ADI的MAX7800X则是由独特的架构和完美分工,来推动边缘AI落地。
与运行在低功耗MCU上的纯软件解决方案相比,ADI的MAX7800X方案具备更高的数据吞吐量,速度提高了100倍,但是成本仅仅是FPGA或GPU解决方案的零头。相比于MCU加上DSP的方案,ADI方案的功耗不足该方案的百分之一。因此,ADI方案可以在功耗、速度、成本三个方面达成最优的平衡,加上其小尺寸的优势,是边缘AI应用的理想产品。
通过对比图可以看出,纯MCU的解决方案与ADI的边缘AI解决方案在功耗上的差距。传统的MCU会将大量功耗用在执行AI推理上,甚至90%以上都用到在AI推理上,但ADI的边缘AI解决方案具备专用的卷积神经网络加速器,占用功耗极低,之所以这部分功耗被大幅缩减,是因为ADI的MCU内核原则上不介入到AI推理。
目前ADI的边缘AI解决方案MA7800X系列主要有两款人工智能MCU——MAX78000和MAX78002,二者均是基于Arm Cortex-M4F和RISC-V的低功耗MCU,搭载专用的卷积神经网络加速器执行AI推理。
MAX78000可支持多达3.5M的模型权重,MAX78002则支持多达16M的模型权重。如果把AI看成一个工作的大脑,那么模型权重就相当于这个大脑里储存的知识。因此,MAX78002和MAX78000相比,不仅可以做到图像的识别,还可以进行复杂的视频分析。
总的来说,ADI的边缘AI解决方案具备速度快、无需外部存储、时钟控制灵活和超低功耗等四大特色,因此对于需要使用电池供电、需要及时决策的物联网设备来说特别合适。
以MAX78000为例,将MAX78000、ADI的MCU MAX32650与竞争对手的某个MCU执行相同AI推理进行对比,可以看出,不论是推理速度还是推理功耗,MAX78000在两个识别上的表现均优于MAX32650和竞争对手的微控制器。
目前,MAX7800X系列产品应用实例包括能够语音识别的智能头盔、振动识别的管道泄露检查、工业流量计、工业光学式气体探测仪、MEMS传感器、可穿戴智能手表、心率监测TWS耳机、扫地机器人雷达、心电T恤、连续式血糖监测(CGM)。
针对MAX7800X系列产品在物联网领域应用,ADI也推出了基于MAX78000参考设计——相机模组MAXREFDES178,供用户评估MAX78000执行AI推理的性能。
MAXREFDES178外观像一个立方体,尺寸仅为4.2cm×4.5cm×4cm,便携性好。除了自身魔方的形状,还具备摄像头、麦克风、显示屏、按钮等多个机械组件,同时内置电池,实现电池供电的边缘AI推理,支持人脸识别和语音识别等功能。
另外,ADI还推出了许多其它的评估套件供用户选用,这些套件的功能更加齐全,用户可根据自己的需要连接外设或者进行个性化的开发。
虽然ADI公司以其出色卓越高精度的信号链和电源产品闻名于世,但是公司在MCU领域的投入也已经有很长的历史了。
从1995年至今,ADI MCU产品的出货量已经超过了10亿片。从2002年之前的8051系列的MCU,到2004年以来的MAXQ系列的MCU,再到2012年之后的ARM内核系列的MCU,ADI不同类型不同特色的MCU给客户留下了深刻的印象。
从2020年至今,ADI在传统MCU的技术上开拓创新了崭新的边缘AI MCU,从而可以在电池供电设备中轻松实现物联网人工智能,成为ADI MCU系列上的一个很大的划时代的里程碑。
ADI的MCU产品除了作为通用的基本微控制器所有的功能,在许多特色领域上有着出色的性能。
在功耗方面,具备灵活的操作模式和超低功耗,可以大大提升电池寿命,延长系统续航时间;在接口方面,具备高速安全的多时钟选项,可以优化程序性能;通讯方面,部分产品集成最新的低功耗蓝牙(BLE)模块,支持远程模式和BLE音频等特色,从而允许设备在更远的范围内进行通信。
此外,ADI还针对大多数产品提供完备的评估方案和开发示例,硬件包括评估板、演示套件等,软件包括SDK、库文件、驱动代码等,从而助力用户全面了解产品性能、加速产品开发。ADI在MCU的IP保护和信任根上拥有30余年的经验,可以极大增强系统安全性,帮助安全敏感型的设备制造商快速、高效地为其产品增加安全加密、密钥存储和防篡改功能。
简而言之,ADI的MCU产品具备功耗低、接口优、通讯新、评估全、开发易、安全强等六大特色。
我们刚刚经历了一个不太顺利的2022年,尤其是消费电子领域呈现低迷情况。ADI MCU产品线资深业务经理李勇强调,根据最新预测报告显示,从2020年到2035年MCU的需求将以10%的增长率增长,而ADI对未来市场的发展前景还是很有信心的,将会持续在MCU市场上继续耕耘。
文/付斌