NovuMind异构智能：人工智能正在重新定义边缘计算

 物联网（IoT）的发展势如破竹，智能边缘计算也成为了最热门的市场领域。人工智能+物联网（AIoT）+边缘计算，将打破传统IoT数据中心不在边缘设备上的弊端，能够让人工智能在边缘设备上变得更智能、更敏捷，满足更多应用场景的需求。边缘设备上的本地计算意味着大量的数据需要被有效的推理、分析和提取，对算力的需求非常之高，同时要求低延迟低功耗。

异构智能创始人兼首席执行官吴韧博士在近期举行的2019 SV CONNECT峰会主题演讲中，分享了人工智能如何在网络边缘实现高算力低功耗的观点。他认为，半导体行业正在不断向人工智能领域拓展，传统的芯片构架已经不能够满足人工智能的各种应用需求，尤其是在边缘设备上的应用。

吴韧博士在SV CONNECT 2019 上的主旨演讲

做人工智能的专用领域架构

“通用处理器时代即将结束，未来计算性能的提高将以专用处理器构架（DSA）为突破口，适用于机器学习和推断神经网络处理器。”吴博士还引用图灵奖获得者Hennessy与Patterson的观点，“DSA is the only path to move forward(专用处理器构架是通向未来的唯一道路)”。DSA是异构计算的一种表现形式，异构计算的直接解释是指不同构架的几种处理器组合在一起进行计算，理念核心在于使用专业的硬件做专业的事情。DSA旨在对特定领域进行特定的优化，发挥硬件性能的最高效力。

传统上，深度学习技术依赖高性能GPU来满足高算力需求。然而涉及到具体的消费市场要求就没有那么奢侈了，往往还有更为严格的功耗以及成本限制。尤其涉及到人工智能在不同场景的应用，对硬件的要求往往是能够满足准确的目标。“传统芯片的构架在进行神经网络等人工智能计算上需要将矩阵展开来进行计算，这个过程会导致很多不必要的计算和功耗。我们自主设计的NovuTensor芯片构架支持原生张量计算，在保证高算力的同时，能够达到远超于其他常见架构的功耗比。”吴韧博士还提到， “许多芯片公司提到自己的产品峰值算力很高，但是却闭口不提计算的精度，很多高算力低功耗的背后，往往就是对计算精度的牺牲，这样的产品无疑是经不住市场考验的。NovuTensor使用独创的动态半精度浮点计算，与标准半精度浮点数相比精度损失极小但能大大节省硬件开销。”

用异构计算思维做生意，处处都是自己人

AI时代的来临，解决方案的需求也在进一步明确以及增长。吴博士认为，AI是一个赋能的产业，异构智能的愿景就是用AI帮助不同领域的企业将他们的产品做得更好。无论是智能安防摄像头，智能家居，智能工厂，数据中心等，都需要能够处理大量数据以及视频图像的高性价比计算引擎。“异构计算的核心观念在于发挥不同架构处理器的优点，让擅长的人做擅长的事，异构智能的产品也是如此。”吴博士提到，“我们擅长的就是帮助不同产业赋能人工智能技术，让他们的产品能够更贴近市场需求，更好的服务他们的客户。”

随着人工智能技术的发展，无论是云端的应用还是终端的应用都将会更加成熟，两者不是此消彼长的对立，而是相辅相成的共赢。异构智能的优势在于能够提供人工智能全栈式的服务，从云端到边缘端，再从底层硬件的支持到模型的训练。未来，随着计算能力的进步和市场的发展，异构智能将会在人工智能浪潮中扮演重要的角色。