正像飞机、汽车、数据库和计算机等实体的形状都是不一样的，边缘AI芯片技术的形态也多种多样。

　　一些传统的企业和初创芯片公司都加入了边缘AI芯片技术的竞争行列，以补充或取代传统的微处理器和控制器。

　　但是，在本地处理 AI 算法的硬件设备（单个芯片或更复杂的芯片组合（称为片上系统或 SOC））的限制增加了难度，尤其是在为低功耗和设备成本而设计的雄心勃勃的物联网中。

　　TinyML是一种机器学习，它缩小深度学习网络和所需的数据，以适应更小的硬件，特别是，作为一组通用概念出现，旨在解决：提供机器学习模型的神经处理，节省芯片模具面积和功耗，并在需要时与云计算服务通信。

　　Linley Group 创始人兼首席分析师 Linley Gwennap 表示，边缘的吸引力在于它分散且无处不在，但这也是工程师需要克服的挑Kaiyun科技有限公司战。这就是供应商和用户现在都在做的事情。

　　边缘是一个涵盖了很多领域的术语，从蜂窝网络和蜂窝基站的边缘、自动驾驶汽车、智能手机、消费电子产品和智能传感器等方方面面，显然，这些不同类型产品的芯片要求是非常不同的。

　　供应商的任务是找到在边缘部署 AI 的最佳切入点。对于物联网从业者来说，有一系列令人眼花缭乱的选项需要审查。人们发现这样的情况：

　　* Atlazo 的 AZ-N1 片上系统。该系统以“智能微型设备”为目标，基于名为 Axom ITM 的节能 ML 处理器。它旨在高效处理信号，旨在与音频、语音和健康监测以及各种传感器相连接。节能音频处理是该芯片的一大亮点，它具有支持多达四个麦克风的低功耗音频编解 码器。AZ-N1 还支持蓝牙连接、DC/DC 稳压器和定制的电池充电器。

　　* Mythic 的M1076 模拟矩阵处理器。  它在模拟域而不是数字域中进行神经计算。该设备可以在 3 瓦的功率范围内以高达 25 TOPS（每秒万亿次操作）的速度运行。一个 PCIe 卡上最多可容纳 16 个 M1076。目标应用程序包括工业机器视觉、自主无人机和智能监控摄像头。

　　对于供应商来说，这是一个潜在的赚钱工具。随着传感器数据越来越多地从网络边缘处理，人工智能处理很可能会刺激物联网市场的整体增长。

　　一份 Facts and Factors 研究报告指出，2019 年全球边缘 AI 硬件市场估计为 5.94 亿台，但预计到 2026 年将达到 21.6 亿台。预计该市场从 2019 年到 2026 年将以 20.2%（复合年增长率）的速度增长。德勤预测，到 2024 年，边缘 AI 芯片的出货量将超过 15 亿。其估计表明，边缘 AI 芯片的单位销售额年增长率至少为 20%，是整体半导体销售额预测的两倍多。

　　边缘人工智能的关键问题体现在芯片制造商采用的不同方法中。Atlazo 将其 SOC 定位于超低功耗 AI/ML 工作区，预计该工作区将由“智能可听”设备填充。这意味着，例如，使用音频信号进行电池供电的健康监测和活动跟踪的应用程序。

　　该公司的负责人具有通信芯片背景，在 2016 年成立 Atlazo 之前，首席执行官 Karim Arabi 曾担任高通工程和研发部门的副总裁。他说，边缘人工智能将在为工作量身定制全部功能的情况下取得成功。 . 它绝不仅仅是关于 AI/ML 处理。

　　功能意味着“从通信到处理再到内存，再到模拟接口和电源管理——包括充电——在单个芯片中，”Arabi 说。虽然其他人认为蓝牙通信存在局限性，但阿拉比认为它在物联网边缘用途中无处不在，将立即得到应用。

　　尽管迄今为止 TinyML 的许多成功都在视觉系统中，但Arabi 的Atlazo 正在追踪传感器信号，传达振动、湿度、温度、压力信息的传感器信号。考虑到这一点，Atlazo 构建了可定制的 AI 处理器，以处理传感器信号类型的独特性质，同时实现必要的能效。

　　Mythic 的首席执行官兼联合创始人 Mike Henry 表示，强大的视觉处理是整合 AI/ML 的额外努力可能首先获得回报的地方。因此，这是初创公司的第一个也是明确的目标。

　　与其他人一样，Henry 指出内存和内存架构（以及相关的成本和功耗增加）是边缘 AI 的主要瓶颈。Mythic 对这个问题的解决方案相当新颖。它是少数致力于计算模拟信号处理的芯片公司之一，随着数字计算的兴起，这种方法逐渐被淘汰，现在正在重新发现其有用性。

　　编译器可能会为应用程序开发人员与硬件供应商的目标创建冲 突。编译器将机器学习模型转换为边缘 AI 芯片上的运行代码（通常作为某种形式的神经网络执行）。编译器可以针对特定模型进行优化。这可能意味着优化深度神经网络 (DNN)、卷积神经网络 (CNN) 和语言或图像处理模型，以利用给定的芯片架构。

　　这些模型类型中的每一种都可能需要进一步优化。例如，在用于检查零件的视觉系统中，优化步骤可能与仓库监控中使用的步骤不同。

　　创建编译器来摄取 Python 代码并在特定的边缘 AI 芯片上高效执行是一种艺术形式。对于 TinyML 来说也是如此，尽管目前人们对使用机器学习来更好地自动化编译很感兴趣。

　　边缘 AI 芯片供应商面临着一个熟悉的难题。正如分析师 Gwennap 在今年早些时候 Spring Linley Group Processor Conference 的主题演讲中指出的那样，通用处理器一直可以瞄准广泛的市场，但由于它们专门用于特定用例，因此它们的机会受到限制。

　　Gwennap 告诉 IoT World Today，如果实施者想在产品中嵌入 AI，他们可以尝试他们已经在使用的现有芯片。该系统可能以微控制器或数字信号处理器为中心，它们已经更新以执行某种类型的机器学习。

　　对于显着差异化的应用，公司很可能必须构建和集成他们自己的神经网络模型，Gwennap 补充道。让它在给定的硅片上按设计运行，很可能需要大量的努力。