在巨(jù)头环(huán)伺的边缘(yuán)计算(suàn)市场上(shàng),对于谷歌来说(shuō),Coral 的(de)吸引力不一(yī)定是收入,而是有(yǒu)关人工智能如何应用到重要场景的信息与经(jīng)验。
Coral 是一个(gè)由谷歌(gē)硬(yìng)件和软件组(zǔ)件组成的(de)平台,主打汽车和(hé)医疗健康场景。尽管(guǎn)绑定谷歌(gē)生态以实现差异化(huà)竞(jìng)争,但(dàn)目前 Coral 的大部分订单都是单个组件,只有少(shǎo)数客户(hù)以10K 起购。
去年三月,谷歌推出(chū)名为 Coral 的本地终端 AI 平台,包含 TPU、Coral Dev Board、USB 加速器和摄像头(tóu)等四个部分。
平台强调以低功耗(hào)水(shuǐ)平提(tí)高出色的 ML 推理性能,能够以(yǐ)良好(hǎo)的功(gōng)率表现(xiàn)执行(háng) mobilesNet v2等最先(xiān)进的移动视觉模型,且 fps 可达100以(yǐ)上(shàng)。
基于 Coral 平台,谷歌发布(bù)了五款(kuǎn)设(shè)备,分(fèn)别是售(shòu)价不到(dào)1000元(yuán)人民币的单板(bǎn)计算机「Coral Dev Board」(由 Edge TPU 模块和 baseboard 组成)、支(zhī)持 Raspberry Pi 或 Debian Linux 计算机(jī)的 USB 加速器、对(duì)应 Dev Board 的500万像(xiàng)素镜头模块、 Dev Board 的系(xì)统(tǒng)模(mó)块(SoM),和(hé)轻易将机器学习加速器(qì) Edge TPU 与现有计算机系统整合(hé)的 PCI-E 加速器。
portant;" />
备有 Edge TPU 机(jī)器学习加(jiā)速的 Coral Dev Board
最初,项(xiàng)目在选定地区推出了 Beta 版,经过六个多月的反馈与改进,去(qù)年(nián)10月,Coral 从 Beta 版毕业,在更多地区推出面向全球发行的版(bǎn)本(běn)。
1Coral 起源
尽管 Coral 的目(mù)标客户(hù)是企业,但项目起源(yuán)于谷歌(gē)「AIY」系列自助机(jī)器(qì)学习工具。2017年,谷歌曾推出 AIY kit,借由(yóu)树莓(méi)派 (Raspberry Pi) 电脑支持,任(rèn)何人都可以自己制(zhì)作智能音箱和智能相机。
虽然项目在 STEM 玩具(jù)和制造商市场上取得了巨大成功(gōng),但是 AIY 的团队也很(hěn)快(kuài)就注意到(dào),一些客户(hù)只是想按照指示来制作(zuò)玩具,但也有一(yī)些客户想把硬件改造成自己(jǐ)的产品原型,为了迎合这些顾客(kè),Coral 应运而生。
2019年,已经(jīng)推出 Dev Board、USB Accelerator 以及多款 PCIe Accelerator 产品组合(hé),已经在全球(qiú)36个国家进行(háng)部署。在今年的 CES 大展上,谷(gǔ)歌进一步更新平台,推出多款产品,扩大应用面(miàn)。
第一款(kuǎn)新产品是(shì) Accelerator Module 加(jiā)速(sù)模组,这款(kuǎn)多(duō)芯片模组包括(kuò)了 Edge TPU ASIC,并支持 PCIe 与 USB 接(jiē)口,可(kě)以(yǐ)嵌入定制(zhì)的印刷(shuā)电(diàn)路设(shè)计,是谷(gǔ)歌和日本(běn)电(diàn)子零(líng)件制造商(shāng) Murata 共同打造的。
第二款产(chǎn)品(pǐn)则是 Dev Board Mini 开发板(bǎn),体积(jī)比 Dev Board 体积更小,搭载 MediaTek 8167s SoC,可达成720P 解析度影(yǐng)像编(biān)码/解码以及电脑视觉运用(yòng),功耗(hào)更低、更加经(jīng)济实惠,两者(zhě)预计在2020上半年正式上市。
Google 亦打造(zào)不同版(bǎn)本的 Coral 系统(tǒng)模组(SoM),除了原本的1GB LPDDR4配置之(zhī)外,新增了(le)2GB 与4GB 配(pèi)置的版(bǎn)本。
人工智(zhì)能的快速发展和(hé)日(rì)趋成熟,已经让机器(qì)人得(dé)以执行(háng)此前仅(jǐn)能(néng)由人类完(wán)成的各项任务。
为了在(zài)工厂产线上进行质量控制,可以设置(zhì) AI 驱(qū)动的摄像(xiàng)头发现缺陷;为了高效(xiào)处理大(dà)量医疗(liáo)数(shù)据,人们可以借助机器学习识别潜在的肿瘤,帮助医生预防和(hé)及时治疗。
不(bú)过,这些应用场景只有在数据(jù)处理(lǐ)足够快速和(hé)安(ān)全的前(qián)提下才能完成。如果(guǒ)在(zài)工厂环境中,AI 摄像头需要数分钟(zhōng)时(shí)间来处(chù)理图(tú)像,那就没有实际意义(yì)。如果(guǒ)需要将患者数据传送到(dào)云端,必然会(huì)带来医(yī)疗数(shù)据(jù)被泄(xiè)露的风险。而谷歌的 Coral 项目正(zhèng)希(xī)望(wàng)解决(jué)这些问题。
来自 (人工智能) 设备(bèi)的数(shù)据,通常(cháng)被发送到大(dà)型数据中心,机器学习模型可以在(zài)这(zhè)里得以高速运行。Coral 的产品经理 Vikram Tank 解释道(dào),Coral 是一个(gè)由谷歌的(de)硬件(jiàn)和软件组件(jiàn)组成(chéng)的(de)平(píng)台,可以帮助(zhù)用(yòng)户构建具有本地人工智(zhì)能(néng)的设备,也就(jiù)是说(shuō),在边缘(yuán)设备上为神经网络提供(gòng)硬(yìng)件加速。
portant;" />
像开发(fā)板(如上)一样(yàng),Coral 的产品可以用(yòng)于制作新 AI 设备原型。
2两大核心(xīn)场景
Coral 不仅旨在帮助工程师(shī)和研究人(rén)员将新模型带出数据(jù)中(zhōng)心并带(dài)入设备,从而在边缘高效运行 TensorFlow 模型,本质上,它也是边(biān)缘硬件在农业,医(yī)疗保健到制(zhì)造(zào)业等行业新应用的核心。
试想(xiǎng)一辆以每小时(shí)65英里行驶(shǐ)的汽车,穿(chuān)越10英尺的距离仅耗时100毫(háo)秒,这意味着任何延(yán)迟都会当事人的生(shēng)命风险,如果(guǒ)可以在(zài)设备端就进行数据分析(xī)和计(jì)算,而不必受限于缓慢的网络延(yán)迟,看到信号灯转变红色立刻(kè)停车,当事人会安全许多。
在医学领域,将分析处理留在(zài)设备(bèi)端,也能很大(dà)程度改善隐私问题。特别是对于(yú)那些利用图像识别对超声图像(xiàng)进行实时分析的医疗(liáo)设(shè)备制造商来(lái)说,将病患图(tú)像发送(sòng)到云端,无疑成为黑(hēi)客(kè)攻击的一个(gè)薄(báo)弱环节,如果在设备上进行(háng)图像进行分析(xī),这些敏(mǐn)感数据就不会超出医(yī)生(shēng)与病(bìng)患的(de)控(kòng)制范围(wéi)。
有(yǒu)市场分析(xī)师预测,到2020年,边缘端的 AI 芯(xīn)片和搭载其的计算机将超过7.5亿个/台,到2024年将(jiāng)增长到15亿个。尽管其中(zhōng)大(dà)多数将(jiāng)安装(zhuāng)在诸如电话之类的消费类设备中,但(dàn)绝(jué)大部分将(jiāng)运(yùn)用于行(háng)业中的企业客户例如(rú)汽车和医疗保(bǎo)健。
Coral 产品经理(lǐ)明确表示(shì),单身工程师们可(kě)以用这(zhè)些硬件打造智(zhì)能棉花糖分(fèn)拣机或(huò)者(zhě)喂鸟器,但项目的长期重(chóng)点客户是汽车和(hé)医疗(liáo)健康行(háng)业。
portant;" />
谷(gǔ)歌的 Edge TPU,也是大(dà)多数 Coral 产品的核心(xīn)。
3绑(bǎng)定生态的差异化竞争
谷歌认识到,有越来越多的行业已经认识(shí)到(dào)本(běn)地(dì)化 AI 的价值,也确(què)实在(zài)推动设备上的机器学习。
在今年的 I/O 大会上,除了在(zài) I/O 大会上展示(shì)的 Pixel 4设备上(shàng)的语音(yīn)识别模型外(wài),他们还(hái)宣布了(le)「本地家庭 SDK」,允(yǔn)许连接(jiē)的家(jiā)庭设备无(wú)需与云(yún)端即可进行(háng)直接操作(zuò)
但是,谷(gǔ)歌面(miàn)临的问题是,有几十家公司的目标与 Coral 类似。特别是巨头们边缘端 AI 布局(jú)的完善和实力正(zhèng)在进一步增强,边缘端芯(xīn)片市(shì)场竞争也因此变得更加激烈。
比如,这是苹(píng)果从一(yī)开始就采取的策略,特别是 John Giannandrea 离开(kāi)谷歌,担任苹果机器学习和人工智能主(zhǔ)管之后。最近,苹果又将 Xnor.ai 收入囊(náng)中。这(zhè)家创业公司的重点是机器(qì)学(xué)习和图像识别工(gōng)具,这些技术可(kě)以在低功(gōng)耗设备上运行,不需要依靠云计算架构。在此(cǐ)之前,苹果收购了(le)主打隐(yǐn)私的人(rén)工智能初(chū)创公(gōng)司 Silk Labs。
Jetson 是英伟达在面向(xiàng)嵌(qiàn)入式市场的(de)产品线(xiàn),正(zhèng)是对标英特尔(ěr) Movidius。区别于其他边缘 SoC 的(de)特点,Jetson 家(jiā)族强调并行运行多个神经(jīng)网络。截至(zhì)目前,Jetson 已发布四个系(xì)列,主要部署在边缘与(yǔ)终端应用上,适用于机器人(rén)、无人(rén)机(jī)和智能摄像头等应用。
不过,继英伟达(dá)最小边(biān)缘超算后,英特尔(ěr)再推10倍(bèi)提升 VPU,与之抗(kàng)衡。
在(zài)中国(guó)市场,华为推出首(shǒu)款面向(xiàng)边缘计(jì)算(suàn)品牌N腾,除了瞄准机器人、智能制造等终端智能产品,同时也是华为(wéi)在(zài)安(ān)防智能摄像头和(hé)边缘(yuán)计算的重(chóng)要布局(jú)。
对此,Coral 团队表示(shì),考虑到市场上有大量的竞争对手,他(tā)们将硬件与谷歌的(de)人工(gōng)智能(néng)服务(wù)生态(tài)系统紧密整合(hé),从而使自己与众不同(tóng)。事实上,芯片、云培训(xùn)、开发工(gōng)具(jù)等(děng),也一直是谷歌(gē)人(rén)工智能服务的关键优势。比如,Coral 就有一个专门(mén)服务硬件编译(yì)的人工智(zhì)能(néng)模型库。
Coral 与谷歌的(de)人工智能生态系统(tǒng)紧密结合,以至于基于(yú) TPU 的边缘(yuán)硬件只能与谷歌的机(jī)器学习框架(jià) TensorFlow 兼容,对于(yú)市场潜在用户来说,这些(xiē)深(shēn)度绑定可(kě)能会适得其反(fǎn)。
Kneron 在(zài)接受媒体采访时曾(céng)表(biǎo)示,尽管谷歌进入这个市场验证并(bìng)推动了这个领域的创新,但是,Coral 产品专为谷歌平台设(shè)计,而他们的产品支持(chí)市场(chǎng)上所(suǒ)有主要(yào) AI 框(kuàng)架和模(mó)型。
可以肯定(dìng)的是,谷歌(gē)肯(kěn)定不会像推行云端 AI 服务那样大力推广 Coral。一位熟悉内情的消(xiāo)息人(rén)士告诉媒(méi)体(tǐ),Coral 的大部分(fèn)订单(dān)都是某(mǒu)个组件 (例如 AI 加速器和开发板),只有少数客户以10K 份起购。
不过(guò),在(zài)机(jī)器(qì)学习不可避(bì)免地从云端走向边缘的过程中,对谷歌来说,Coral 的(de)吸引力(lì)不一定是收入(rù),而是提供了有关人工智能如(rú)何(hé)应用到(dào)重要场景的信息与(yǔ)经验。