在巨头环伺的(de)边缘计算(suàn)市场上(shàng),对于谷歌来说,Coral 的(de)吸引力不(bú)一定是收(shōu)入,而是有关人(rén)工智能(néng)如何(hé)应(yīng)用到重(chóng)要场(chǎng)景的信息与(yǔ)经验。
Coral 是(shì)一个由谷歌硬件和软件组件(jiàn)组(zǔ)成的平台(tái),主打汽车和医疗(liáo)健(jiàn)康(kāng)场景。尽管绑(bǎng)定谷(gǔ)歌(gē)生态以实(shí)现差异化竞争,但目前(qián) Coral 的(de)大部分订单都是单(dān)个组件,只有少数客(kè)户以10K 起购(gòu)。
去年三月,谷歌推出名(míng)为(wéi) Coral 的本(běn)地终端 AI 平台(tái),包含 TPU、Coral Dev Board、USB 加速器(qì)和摄像头(tóu)等四个部(bù)分(fèn)。
平台强(qiáng)调(diào)以低功耗水平提高(gāo)出色的 ML 推理(lǐ)性能(néng),能够以良好(hǎo)的功率表现(xiàn)执行 mobilesNet v2等最先进(jìn)的(de)移动视觉模型,且 fps 可(kě)达100以上。
基于 Coral 平(píng)台,谷歌发布了五款设备,分别是售价不(bú)到1000元人民币的单板计算机「Coral Dev Board」(由 Edge TPU 模块和 baseboard 组成)、支持 Raspberry Pi 或(huò) Debian Linux 计算(suàn)机的 USB 加速器、对应 Dev Board 的500万像素镜头模块、 Dev Board 的系统模块(SoM),和轻(qīng)易将机器学习加速器 Edge TPU 与现有计(jì)算机系统整合的 PCI-E 加(jiā)速(sù)器。
portant;" />
备有 Edge TPU 机器学习加速(sù)的 Coral Dev Board
最初,项目在选定地区推出了 Beta 版,经过六个多月的反馈与改进,去年(nián)10月(yuè),Coral 从 Beta 版毕业(yè),在更多地区(qū)推出(chū)面向全球发行(háng)的版本。
1Coral 起源
尽管 Coral 的目(mù)标(biāo)客户是企(qǐ)业,但(dàn)项目起源(yuán)于谷歌(gē)「AIY」系列(liè)自助机器学习工具(jù)。2017年,谷歌曾推出 AIY kit,借由(yóu)树莓(méi)派 (Raspberry Pi) 电脑支持,任何人都可以自(zì)己制(zhì)作智能音箱和智能相机。
虽然项目在 STEM 玩具(jù)和制造(zào)商市场上取得了巨大成功,但是 AIY 的团(tuán)队也(yě)很快就注意到,一些客户只是(shì)想按照指示来制作玩具,但也(yě)有一些(xiē)客户想把(bǎ)硬(yìng)件改造成自己(jǐ)的(de)产品原型,为了迎合这些(xiē)顾(gù)客,Coral 应运而生(shēng)。
2019年,已经推出 Dev Board、USB Accelerator 以及多款(kuǎn) PCIe Accelerator 产品组合,已经(jīng)在全球36个(gè)国(guó)家进行部署。在今年的 CES 大展上,谷歌进(jìn)一(yī)步更新平(píng)台,推出(chū)多款产品,扩大应用面。
第一款新产品是 Accelerator Module 加速模组(zǔ),这款多芯片模组包括了 Edge TPU ASIC,并支持 PCIe 与(yǔ) USB 接(jiē)口,可以嵌(qiàn)入定制的(de)印刷(shuā)电路设计(jì),是(shì)谷歌和日本(běn)电子零件制造商(shāng) Murata 共同打(dǎ)造的。
第二(èr)款产品则是 Dev Board Mini 开(kāi)发板,体积比(bǐ) Dev Board 体积更(gèng)小,搭载 MediaTek 8167s SoC,可(kě)达成720P 解析度(dù)影像编码/解(jiě)码以及电脑视(shì)觉运用,功耗更低、更加经济实惠,两(liǎng)者预(yù)计在2020上半年(nián)正式上市。
Google 亦打造不同(tóng)版本的 Coral 系统模组(SoM),除了原本(běn)的1GB LPDDR4配(pèi)置之(zhī)外,新(xīn)增了2GB 与4GB 配置(zhì)的版本。
人工智(zhì)能的快速发展和日(rì)趋成熟,已(yǐ)经(jīng)让机器人(rén)得(dé)以执行此前仅能由人类(lèi)完成的各项任(rèn)务。
为(wéi)了在(zài)工厂产线上进行质量控制,可以设置(zhì) AI 驱动的摄像头发现缺陷;为了高(gāo)效(xiào)处理大量医疗数据,人们(men)可以(yǐ)借助(zhù)机器学习识别(bié)潜在的肿瘤,帮助(zhù)医生预防和及时治(zhì)疗。
不过(guò),这(zhè)些应用场景只(zhī)有在数(shù)据(jù)处理足够(gòu)快速和安(ān)全的前提(tí)下(xià)才能(néng)完成。如(rú)果(guǒ)在工厂(chǎng)环境中,AI 摄像头需要数(shù)分钟时间来处理(lǐ)图(tú)像,那就(jiù)没有实际意义(yì)。如(rú)果需要将患者数据传送到(dào)云端,必(bì)然会带来医疗数据被(bèi)泄露的风险。而谷歌的 Coral 项目正(zhèng)希望解决这些问题。
来自 (人工(gōng)智能(néng)) 设备的数据,通(tōng)常(cháng)被发送到(dào)大型数据中心,机器(qì)学(xué)习(xí)模(mó)型可以在这(zhè)里得以高(gāo)速运行。Coral 的产品经(jīng)理 Vikram Tank 解释道,Coral 是一个由谷歌的硬件和(hé)软件组件(jiàn)组成的平(píng)台,可以(yǐ)帮助(zhù)用户构建具有本地人(rén)工智能的设备,也就是说(shuō),在边(biān)缘设(shè)备上为(wéi)神经网络(luò)提供硬件加速(sù)。
portant;" />
像(xiàng)开(kāi)发板(bǎn)(如上)一样,Coral 的产品可(kě)以用于制作新 AI 设备原(yuán)型。
2两大核心场景(jǐng)
Coral 不仅旨在帮助工程师和研(yán)究人员将新模型带出(chū)数据中心并带入设备,从而在边缘(yuán)高效运行 TensorFlow 模型,本质上,它也是(shì)边(biān)缘硬件(jiàn)在农业(yè),医疗保健到制(zhì)造业等行业新应用(yòng)的核心(xīn)。
试想一辆以每小时65英里行驶的汽车,穿越10英尺(chǐ)的距离仅(jǐn)耗时100毫秒,这(zhè)意味着任何延迟都会当事(shì)人的生命风险,如果(guǒ)可以在(zài)设备端就(jiù)进(jìn)行数据分(fèn)析和计算,而不必受(shòu)限于缓(huǎn)慢(màn)的网络延迟,看到(dào)信号灯转变红色立刻(kè)停车,当事人会安全(quán)许(xǔ)多。
在医(yī)学领域,将分(fèn)析处理留在设备端,也能(néng)很(hěn)大程(chéng)度(dù)改善隐私问题。特别(bié)是对(duì)于(yú)那些(xiē)利(lì)用图(tú)像识别对超声图像(xiàng)进行实时分析的医疗设备制造商来说,将病(bìng)患图像(xiàng)发(fā)送(sòng)到云端(duān),无疑成为黑客攻击的(de)一个薄弱环(huán)节(jiē),如果在设备上(shàng)进行图像进行分析,这些敏感数据(jù)就不会超出医生与病(bìng)患的控制范围。
有市场(chǎng)分析(xī)师预测(cè),到2020年,边(biān)缘端(duān)的(de) AI 芯(xīn)片和搭载其(qí)的计算(suàn)机将超过7.5亿(yì)个/台,到2024年将增长到15亿个。尽(jìn)管其中大(dà)多(duō)数将安装在(zài)诸如电话之类的消费(fèi)类设备中,但绝大部分将运用于行业中(zhōng)的(de)企业客户例如汽(qì)车和医疗保健(jiàn)。
Coral 产品经理明确表示,单身工程师们可以用这些硬件(jiàn)打造智能棉花糖分拣机或者(zhě)喂(wèi)鸟器,但项目(mù)的长期重(chóng)点客户是汽车(chē)和医(yī)疗(liáo)健康行业。
portant;" />
谷歌的 Edge TPU,也是大多(duō)数 Coral 产品的(de)核心。
3绑定(dìng)生态的差异化竞争(zhēng)
谷歌认识到(dào),有越来越多的(de)行业已经认(rèn)识到本地(dì)化 AI 的价值,也确(què)实在推动设备上的机器学习。
在(zài)今(jīn)年的 I/O 大会上,除了(le)在 I/O 大会上展示的 Pixel 4设备上的语音识别模型外,他(tā)们还宣布了「本地家庭(tíng) SDK」,允许连接的(de)家庭设备无需与云端即可进行(háng)直接操作(zuò)
但是,谷歌面临的问题是,有几(jǐ)十家公司的目(mù)标(biāo)与 Coral 类似。特别是巨头们边缘端 AI 布(bù)局的完善和(hé)实力正在进一(yī)步增强,边缘端芯(xīn)片市场竞争也因此变得更加激烈。
比如,这是苹果从(cóng)一(yī)开(kāi)始(shǐ)就采取的策略,特别是 John Giannandrea 离开谷歌,担任苹果机器学(xué)习和人工智(zhì)能主管之后。最近,苹果又将 Xnor.ai 收入(rù)囊中。这(zhè)家创业公司的重点是机器学(xué)习和图(tú)像识别工(gōng)具,这些(xiē)技术可以在低功耗设备(bèi)上运行,不需要依靠(kào)云计算架构(gòu)。在此(cǐ)之前,苹果收购了主打隐私的人工智能初创公司 Silk Labs。
Jetson 是英伟达在面向嵌入式市场的产品线,正是对标英特(tè)尔 Movidius。区别于其他边缘(yuán) SoC 的特点,Jetson 家族强调并行运行多个神经网络。截至目前,Jetson 已发布四个系列,主要部(bù)署在边缘与终端应(yīng)用上,适(shì)用于机器人、无人机和智能摄像头(tóu)等应(yīng)用。
不过,继英伟达最小(xiǎo)边缘超算后(hòu),英特尔再推10倍提升 VPU,与之抗衡。
在(zài)中国市场,华为推出首款面向边缘(yuán)计算品牌N腾,除了(le)瞄准(zhǔn)机器人(rén)、智(zhì)能制造等终(zhōng)端智能产品,同时也是华(huá)为在安防(fáng)智能摄(shè)像(xiàng)头和(hé)边(biān)缘计算的重要布局。
对此,Coral 团队表示,考虑到市场(chǎng)上有大量的竞(jìng)争对手,他们将硬件与谷歌的(de)人工智能服务生态系统紧密整合(hé),从(cóng)而(ér)使自己(jǐ)与众不同(tóng)。事实上,芯片、云培训、开发工具等,也一直是谷歌人(rén)工(gōng)智能服务的关键优势。比如,Coral 就有(yǒu)一个专(zhuān)门服(fú)务硬件编译(yì)的人(rén)工智能模型库。
Coral 与谷歌的人工(gōng)智能生(shēng)态系统紧(jǐn)密结合,以至(zhì)于(yú)基于(yú) TPU 的边缘硬件只能与谷(gǔ)歌的机器学习框架 TensorFlow 兼(jiān)容,对于市场潜在用户来说,这(zhè)些深度(dù)绑定可能会(huì)适得(dé)其反。
Kneron 在(zài)接受媒体采访时曾表示,尽(jìn)管(guǎn)谷歌进入这个市场(chǎng)验证并推动(dòng)了(le)这个领域的创新,但是,Coral 产(chǎn)品专为谷歌(gē)平台设计(jì),而(ér)他们的产品支持市场上所有主要 AI 框架和模型。
可以(yǐ)肯定的(de)是,谷(gǔ)歌肯定不会像推行云端 AI 服(fú)务(wù)那样大力推广 Coral。一位熟悉内情的消息人士告(gào)诉媒(méi)体,Coral 的大部分(fèn)订单都是某(mǒu)个组件 (例如 AI 加速器和开(kāi)发(fā)板(bǎn)),只有少数客(kè)户以10K 份起购。
不过,在机器(qì)学习不可(kě)避(bì)免(miǎn)地从云端(duān)走向边缘(yuán)的过程中,对谷歌来说(shuō),Coral 的吸(xī)引力不一定是收(shōu)入,而(ér)是提供了有关人工智能如何应用到重要场(chǎng)景的(de)信(xìn)息与经验。