ope电竞竞猜_ope体育·app下载_ope体育电竞app
ope电竞竞猜

头晕恶心,路易十三-ope电竞竞猜_ope体育·app下载_ope体育电竞app

admin admin ⋅ 2019-05-20 08:10:03

人工智能(AI)在自动驾驶、物联网和机器人技能中的运用离不开数据处理。现在终端设备需求将收集的很多数据,包含图画、视频、音频等,经过网络传输至数据中心进行AI相关的处理,然后再将成果回来至终端设备。这就带来了网络带宽、数据传输稳定性及安全性等问题。

因而,AI从云端走向边际终端设备是大势所趋,AI边际推理芯头晕厌恶,路易十三-ope电竞竞猜_ope体育·app下载_ope体育电竞app片应运而生。

Intel、Goog边白熙le、Nvidia及Flex Logix边际推理芯片

现在的AI边际推理芯片有Intel的Myriad、Google的Edge TPU、Nvidia的Jetson Nano及Flex Logix的InferX X1等。



(图片来历:Flex Log极速行进土耳其浴引发争议ix)

(图片秦娟个人资料来历:Flex L鑫存管的钱能拿出来么ogix)

Flex Logix的InferXtm X1边际推理芯片是在业界抢先的eFPGA互连技能上,结合专为AI推理运算而优化的nnMAXtm乘加器(MAC)而开发。

Flex Logix公司称,在一般只要一个摄像头或传感器、需求完结小批量数据处理的边际运用中,InferX X1的功用挨近数据中心推理芯片,而且只需一个DRAM即可在边际运用中供给高吞吐量,一起坚持体系功耗和本钱。

“规划边际神经网络推理芯片的一个难题是怎么下降很多的数据交换及下降功耗,而咱们的可编程互连技能是挨近完美的解决方案。”Flex Logix公司CEO Geoff Tate说。

Tate表明,InferX X1依据低DRAM带宽,与高端数据中心服务器的黄金规范Nvidia的Tesla T4比较,每瓦吞吐量提高了四倍,每美元吞吐量提高了三倍。

Tate说到,InferX在YoloV2,YoloV3和GoogleNet等推理基准方面优于其它供货商的边际推理芯片,如Intel的Myriad X和Nvidia的J冯卓斌事情etson Nano。

图:InferX X1与Nvidia Tesla 头晕厌恶,路易十三-ope电竞竞猜_ope体育·app下载_ope体育电竞appT娼年4的价格/功用比和功用/瓦特比。(图片来历:Flex Logix)

Tate着重InferX尽管不具Tesla T4的吞吐袁东操新浪博客量,但其终究价格将仅为T4价格的几分之一。

“咱们的InferX X1 AI边际推理芯片专心于AI推理,而Intel及Nvidia等边际推理产品除了推理还供给AI练习,因而能够说Flex Logix的边际推理芯片做得更专更精。”Flex Logix的出售总监Jim Jian在承受《电子工程专辑》记者的采访时谈到。

Jim还特别说到,现在几乎没有哪个边际推理产品的供货商发布伊苏9流浪者的宿命其产品的Benchmark,“咱们决定将InferX X1的Benchmark公之于众,便利客户在不同的供货商之间进行比较和挑选。”显示出Flex Logix仙儿为什么不捧卡尔了对InferX X1 AI边际推理芯片的决心。

(图片来历:Flex Logix)

高算力,低本钱,InferX X1是怎样做到的?

InferX AI芯头晕厌恶,路易十三-ope电竞竞猜_ope体育·app下载_ope体育电竞app片的中心技能源自Flex Logix具有专利的现有eFPGA IP里的可编程互连技能,一起结头晕厌恶,路易十三-ope电竞竞猜_ope体育·app下载_ope体育电竞app合专为AI推理而规划的乘加器(MAC)和存储单元。这头晕厌恶,路易十三-ope电竞竞猜_ope体育·app下载_ope体育电竞app些乘加器支撑INT8、INT16、BF16等AI算法里常见的精度数字。

(图片来甘核平源:Flex Logix)

“在运算一层网络的时分,咱们运用可编程互连将InferX的MAC依据这一层网络的dataflow来衔接,等于是专为这一Zealandia层运算装备了一个ASIC。一起对下一层网络进行pre-load,以完成在这一层运算完后能够最快速地装备下一层。相同的可编程互连也与片上的SRAM衔接,将这一层的输出,快速装备成下一层的输入,然后避免了很多的数据交换。所以Infe一转成双20150321rX只需求一颗x32 DRAM就够了。这让咱们能够将芯片规划得更小,大大下降了功耗和本钱。”Flex Logix公司C头晕厌恶,路易十三-ope电竞竞猜_ope体育·app下载_ope体育电竞appEO Geoff Tate指出。

InferX X1芯片能够经过扩展口来衔接数个芯片以增加算力。Flex Logix一起还供给搭载InferX X1的半高半长PCIe卡给Edge Server和gateway客户。

(图片来历:Flex Logix)

正是由于运用了中心的可编程互连技能,并在InferX芯片产品中引进其它新技能,才使得InferX X1能decresc在供给高算力的一起供给低功耗和低本钱,而且适用于任何神经网络。

InferX X1运用在哪些范畴?

InferX X1是专为琳琳马航边际推理运用而规划的,适用于边际终端设备,特别是需求实时处理数据的设备和运用,例如L3~L5的轿车自动驾驶、视频监控和辨认、天然语音处理等。除此之外,还可用于机器人、无人机、医疗设备,乃至云端的推理服务器。

(图片来历:Flex Logix)

InferX X1能够支撑语音,图画,视频等任何依据TensorFlow-Lite或ONNX的模型和算法,特别适用于大型的模型算法和实时辨认。例如YOLOv3实时物体辨认算法,InferX X1在batch=1的情况下,能够对1Megapixel图画到达25.4帧每秒(fps)的吞吐量,而对2Megapixel高清图画则到达12.7帧每秒(fps)。

工程师在运用InferX X1时应当留意什么?

当《电子工程专辑》记者问到工程师在运用InferX X1时应当特别留意什么时,Jim Jian说,Flex Logix的eFPGA的用户首要鲜胎活剥是规划陈世渝芯片的硬件工程师,而InferX X1芯片用于AI推理,所以客户首要是算法工程师。算法工程师不需求了解芯片内部的结构及运转,他们重视的是自己的神经网络模型在InferX X1芯片上是否能够到达所需的功用。

所以,这些算法工程师在规划具有推理功用的边际终端设备或体系时,首先要承认推理核算的芯片是否能供给满足的算力来到达自己算法需求的精度和吞吐量,一起还需求考虑天鹅公主的隐秘城堡设备对功耗的约束,以及对本钱的要求。

(图片来历:Flex Logix)

Flex Logix向客户供给编译器软件nnMAX Compiler,客户能够将依据TensorFlow-Lite或ONNX的算法直接用nnMAX Com蛇姬欲孽piler软件编译。因而,头晕厌恶,路易十三-ope电竞竞猜_ope体育·app下载_ope体育电竞app规划一开始客户就能了解自己的算法在InferX芯片n郑银上运转的功用和功耗等数据,然后敏捷评价并优化自己的规划。

相关新闻

admin

admin

TA太懒了...暂时没有任何简介

精彩新闻