首页 > 科技 > 一家边缘AI芯片初创公司,提出同时支持训练和推理的通用可编程处理器

一家边缘AI芯片初创公司,提出同时支持训练和推理的通用可编程处理器

不同于云端AI芯片是英特尔、英伟达、AMD独霸的寡占生态,边缘AI芯片因为承袭了物联网具碎片化、应用广、多样化的特质,无法由特定的科技巨头通吃边缘AI商机。因此,在边缘AI芯片领域,巨头长期寡占的局面将注定被打破,众多新创公司商机浮现。

在AI芯片的协助下,边缘与终端装置上的运算能力,可以藉由机器学习或深度学习等技术,加速边缘芯片AI化。同时,因为强化低延迟、低功耗、低成本、高传输等特性,边缘AI芯片在未来世界的价值与角色大幅提升。

与传统的边缘运算相比较,边缘AI在数据处理、过滤与边缘智慧分析等层面上,显著强化。

根据调研机构统计,2022年边缘AI芯片市场规模不到400亿美元,预计2025年将达到500亿美元。再者,TrendForce也预估,全球AI芯片产值至2025年可望达到720亿美元。

微软也看好到2026年,全球AI芯片有3/4会是边缘运算。边缘运算+AI芯片的结合,已经是全球科技巨头与新创公司趋之若鹜投入的产业重大趋势。

一家成立于2017年的美国边缘AI处理器芯片公司Ambient Scientific,日前开发出一款业界功耗最低的AI通用可编程处理器GPX-10,旨在为电池供电和其他快速增长的低功耗设备启用AI,具有独特“永远在线”的AmbiLogic技术。再者,GPX-10也是一款可以同时支持推理和训练功能的可编程AI处理器。

Ambient Scientific成立的宗旨在于开发用在边缘设备上推理和训练的软件定义AI处理器。Ambient Scientific是首席执行官Gajendra Prasad Singh创立,他的早期职业生涯是在Sun Microsystems的SPARC开发团队;在创立Ambient之前是Wave Computing的工程副总裁。

根据Ambient网站上的介绍,2017年成立后,该公司的技术团队从零开始构建了自己的处理器DigAn AI架构,该架构可以从5核扩展到8,000核,从40nm技术扩展到7nm、5nm甚至是更小制程的技术,而这些处理器的每个内核都是软件定义和可编程的。

Ambient的“永远在线”功能消耗不到100微瓦的功率。对大多数的语音应用来说,在100MHz下,完全运行时的功率不到300微瓦。

在物联网时代下,边缘运算已经被谈论多年,但对于不同应用领域和托管的工作目标,边缘运算的目的和定义也不尽相同。边缘运算的应用可以从设备/数据产生地的距离来区分为三种:

厚边缘(Thick Edge):处理高数据流量的计算资源,通常适配高端CPU、GPU、FGPA来执行计算密集型任务/工作负载,例如数据中心的数据储存与分析。厚边缘计算节点由于其强大的计算和存储能力,经常可以独立运行大型算法。

薄边缘(Thin Edge):通常数据不会在传感器数据收集站点上即时处理,而是发送到集中系统上处理并分析,这包括网络设备、工业电脑等,除了配有中间处理器外,也常需要GPU、ASIC等AI芯片。

微边缘(Micro Edge):非常贴近数据源,数据生成设备本身就是微边缘AI计算机。有时薄边缘与微边缘并没有明显区分。由于缺乏可在微边缘运行AI所需的高效且可负担的足够算力的芯片,长期以来微边缘AI一直无法实现。

Ambient的边缘AI芯片解决了这个问题,它使在位处微边缘的传感器近端进行AI计算成为可能。GPX-10非常适合各类AI应用,例如:视觉类应用(如手势识别、图像识别、计算机视觉);语音类应用(如自定义唤醒词、语音识别、身份验证);以及需要多种传感器的智能应用,如各领域设备(包括医疗保健、汽车、游戏、白色家电、物联网和工业产品等),尤其是那些对功率敏感的连接和独立未连接的设备和电器。

通过在边缘启用AI,Ambient的技术可以大幅减少跨网络的数据流量,以及减少对云数据中心的需求。

Ambient的GPX-10处理器配有十个名为MX8的神经网络处理内核和Arm Cortex-M4F主机控制器,提供400KB的板载SRAM和数个外接口(包括一个外部闪存接口)。凭借其独特的传感模数转换器和传感融合架构,该SoC可供连接八个模拟传感器、两个独立的数字麦克风、一个独立的视觉传感器(即摄像头)及大量其他的I2C数字传感器。

Ambient Scientific已经释出测试版本(beta-release)的GPX-10处理器软件堆栈,内含其独特的AI编译器。

Ambient Scientific提供两款软件编译器:一款是专用于特定应用的垂直编译器,适用于快速部署AI应用;另一款是通用编译器,其可更加灵活地执行各种AI算法和应用。

开发者可以在履行完必要的程序后下载Ambient的软件开发套件(SDK),该SDK包括一个基于TensorFlow的训练工具链以用于生成AI模型,以及一个利用GPX-10来执行AI应用的完整的的开发环境。垂直编译器或是通用编译器的建构都是为了在GPX-10的AI核心中最佳化性能和功耗。

垂直编译器允许开发者利用预先确定的神经网络,来创造特殊应用像是声音、计算机视觉、传感融合等。

当垂直编译器用于语言辨识领域,可以支持基于语音的AI应用程序,例如创建唤醒词、指令短语菜单、语音ID、意图探测和其他自然语言处理应用。SDK还可以使得终端用户去多次创造或是改变他们的唤醒词、短语或是语音ID。

再者,通用编译器可以让开发人员使用他们自己选择的AI框架,例如TensorFlow、PyTorch、Caffe、CNTK、Python,C及C++,来创建神经网络模型,并将他们的模型部署在GPX-10 AI处理器上。

目前Ambient的客户有若干一线和二线OEM厂商。GPX-10处理器已开始提供样品,并附SDK和硬件参考设计板。

本文来自网络,不代表趣头条立场,转载请注明出处:https://www.ngnnn.com/article/4_16517.html
上一篇最后一次送耳机了?苹果教育优惠明天开启:电脑平板都打折
下一篇黄光裕兄妹幕后台前 国美下一步向哪儿走?

为您推荐

华为王连军:目标是三年内将AITO问界做成全球高端智能电动品牌

华为王连军:目标是三年内将AITO问界做成全球高端智能电动品牌

【华为王连军:目标是三年内将AITO问界做成全球高端智能电动品牌】财联社11月7日电,华为智选车战略总监王连军透露,AITO问界已经连续三个月销量破万,在刚刚过去的10月份,销量达到了12018台,在新势力车企中做到当月市场第一。王连军表示,过去的汽车行业积累了精益制造与供应链体系能力,但未来是软件定义汽车,智能化是
AirPods Pro 2,这次真的值得换了?

AirPods Pro 2,这次真的值得换了?

本周,苹果发布了秋季特别活动的邀请函,将发布会定档北京时间 9 月 8 日凌晨 1 点。除了 iPhone 14,大家心心念念的另一款重磅产品,也有望在本次发布会亮相。那就是 AirPods Pro 2。距离第一代 AirPods Pro 发布,已经过去了三年,想必有不少小伙伴已经在为耳机的续航而发愁。AirPods 3 提升不错,但又不支持主动降噪。那
除了绘画,AIGC还做营销能手、创作者和程序员|我在硅谷看未来

除了绘画,AIGC还做营销能手、创作者和程序员|我在硅谷看未来

【联合出品团队】硅兔赛跑成员王子、顾程来,夏维彬对本文亦有贡献,腾讯科技成员李海丹、郝博阳、关皓。 【免责声明】本篇内容并非投资意见,为便于理解,该系列汇总了相关领域的典型企业案例作为参考,但所含相关公司资料不构成任何投资产品之要约或者建议,只作为一般参考资料用途。【版权声明】本文版权为硅兔赛跑和腾
曾经万人斩、永劫无间单挑王,却被AI虐的死去活来?做梦都能吓醒

曾经万人斩、永劫无间单挑王,却被AI虐的死去活来?做梦都能吓醒

竞技游戏中的人机模式,一直以来都是玩家用来熟悉游戏、精进技术的最佳手段之一。相对于真人,AI的行为会稍显呆板,只会按照指令来行动。即使强如《英雄联盟》中的末日人机,也仅仅是在数值和技能类型上做出了调整,整体依然不足以与真人相提并论。而最近有款竞技游戏却打破了这个认知,那就是国产多人动作游戏《永劫无间》
仅花费60美元就能破坏0.01%数据集,AI模型性能显著降低

仅花费60美元就能破坏0.01%数据集,AI模型性能显著降低

机器之心报道编辑:袁铭怿网络规模的数据集很容易受到低成本的投毒攻击,这种攻击只需要一小部分被破坏的样本就可以使整个模型中毒。用于训练深度学习模型的数据集已经从数千个精心策划的示例增长到具有数十亿个从互联网自动爬取样本的网络规模数据集。在这种规模下,通过人力管理来确保每个示例的质量是不可行的。到目前为
出门问问发布大模型“序列猴子”及四款AIGC产品

出门问问发布大模型“序列猴子”及四款AIGC产品

三言科技消息 出门问问宣布内测探索大模型「序列猴子」,并提出CoPilot将会无处不在,同时在大模型能力的基础上还同步开启了面向创作者的CoPilot产品矩阵,面向C端的升级版语音助手魔法小问,以及面向B端的企业专属大模型的内测探索。其中面向创作者的CoPilot产品矩阵包含了四款AIGC产品,分别为AI写作平台“奇妙文”、AI
达摩院2023十大科技趋势发布:人类对通用AI的想象从未如此具体

达摩院2023十大科技趋势发布:人类对通用AI的想象从未如此具体

杨净 发自 凹非寺量子位 | 公众号 QbitAI刚刚,达摩院十大科技趋势榜单发布。本次包含了AI、芯片、云计算等基础技术领域,既有引发全球投资浪潮的生成式AI,也有在规模化应用前夜的存算一体、Chiplet设计封装技术……(先来一睹为快)但跟以往不同的是,仅从榜单上可以看到,产业、融合等成为此次的关键词。而在跟达摩院进
陶哲轩等人用编程方法,推翻了60年几何难题“周期性平铺猜想”

陶哲轩等人用编程方法,推翻了60年几何难题“周期性平铺猜想”

机器之心报道机器之心编辑部数学家们曾预测,如果对形状如何平铺空间施加足够的限制,他们可能必然出现周期性模式,但事实证明不是这样。几何学中,最难攻克的问题往往是一些最古老、最简单的问题。自古以来,艺术家和几何学家们就想知道几何形状如何在没有间隙或重叠的情况下铺满整个平面。然而用罗切斯特大学数学家 Alex
“AI焦虑”蔓延全球?有人失眠,也有人靠ChatGPT带孩子

“AI焦虑”蔓延全球?有人失眠,也有人靠ChatGPT带孩子

·“很多年前可能需要我们在农田里务农,工业时代变成流水线女工,到现在变成‘PPT女工’。未来可能就变成为AI工作的工人,是‘喂它东西的饲养员’。变化的只是工作形式,我们始终都会有工作。当然在这个过程中还有一部分人会因为没有继续学习,或者没有继续使用新工具而被淘汰。”曹宇在上海一家媒体担任英文报道编辑,平
知乎发布“知海图AI”大模型 官方:已储备充足A100芯片

知乎发布“知海图AI”大模型 官方:已储备充足A100芯片

腾讯科技讯 4月13日,知乎在北京召开“2023知乎发现大会”,首次公开旗下与面壁智能共建的大模型产品“知海图AI”,双方合作将以联合研发与战略投资的方式展开。据了解,目前“知海图AI”已经应用到“热榜摘要”功能当中,通过对知乎社区现有的内容进行聚合、整理,然后提炼成摘要展现给用户,目前该功能已开放内测。官方表
孙燕姿回应“AI孙燕姿”:人类无法超越AI,做自己就够了

孙燕姿回应“AI孙燕姿”:人类无法超越AI,做自己就够了

近期,“AI孙燕姿”因翻唱《下雨天》等歌曲走红网络。5月22日晚,孙燕姿发文回应称,人类无法超越AI技术已指日可待,凡事皆有可能,凡事皆无所谓,“我认为思想纯净、做自己,已然足够”。孙燕姿表示,无论是ChatGPT还是Al或者其他名字,现在这个“东西”能够通过处理海量的信息,同时以最连贯的方式拼接组合手头的任务,来
在黄仁勋的“iPhone时刻”,人与AI究竟是什么关系?

在黄仁勋的“iPhone时刻”,人与AI究竟是什么关系?

AI时代,我们是谁,从哪里来,到哪里去?撰文 | 佘宗明「你是谁,从哪里来,到哪里去」在「AI的iPhone时刻」已到来的背景下,所谓的人生终极三问,从保安的灵魂追问变为我们的扪心自问,几乎是必然。我们究竟要到哪里去?这是我们无法回避的问题。有人说,包揽今年奥斯克7项大奖的《瞬息全宇宙》,用天马行空的科幻剧情设
返回顶部