最新的千元边缘AI芯片大赛：Google Coral vs NVIDIA Jetson

边缘智能被誉为人工智能的最后一公里。

谷歌3月份刚刚推出了Coral Edge TPU，这是一款售价不到1000元的开发板（Coral Dev Board），由一个Edge TPU模块和一个Baseboard组成。参数如下：

NVIDIA 上个月还发布了最新的 NVIDIA Jetson Nano，Jetson Nano 是一款类似于树莓派的嵌入式计算机设备。搭载四核Cortex-A57处理器，GPU为NVIDIA Maxwell架构显卡，拥有128个NVIDIA CUDA核心。内存为4GB LPDDR4，存储为16GB eMMC5.1，支持4K 60Hz视频解码。

目前关于这两款产品的评测报告并不多。今天新智元为大家带来网友Sam Sterckval对两款产品的评测。此外，他还测试了 i7-7700K + GTX1080 (2560CUDA)、Raspberry Pi 3B + 以及包含 i7-4870HQ（没有支持 CUDA 的内核）的 2014 MacBook pro。

Sam 使用 MobileNetV2 作为分类器，在 imagenet 数据集上进行预训练，并直接使用来自 Keras 的模型，以 TensorFlow 作为后端。使用 GPU 的浮点权重显卡回本计算器，以及 CPU 和 Coral Edge TPU 的 8bit 量化 tflite 版本。

首先，加载模型和 magpie 图像。作为热身，首先执行 1 个预测，Sam 发现第一个预测总是比后续预测提供更多信息。然后Sleep 1秒，确保所有线程活动都终止，然后对同一张图片进行250次分类。

对所有分类使用相同的图像可确保在整个测试过程中保持紧密的数据总线。

比较结果

先看最终结果：

线性比例，FPS

对数刻度，FPS

线性比例，推理时间 (250x)

Sam 发现使用 CPU 的量化 tflite 模型得分不同，但它似乎总是返回与其他产品相同的预测，他怀疑该模型有点奇怪，但请确保它不会影响性能。

比较分析

在第一个直方图中，我们可以看到有 3 个比较突出的数据，其中两个是由 Google Coral Edge TPU USB 加速器实现的，第三个是由 NVIDIA GTX1080 辅助的 Intel i7-7700K 实现的。

进一步比较会发现 GTX1080 实际上根本无法与 Google 的 Coral 竞争。要知道GTX1080的最大功率是180W，而Coral Edge TPU只有2.5W。

NVIDIA Jetson Nano 得分不高。虽然它有一个支持 CUDA 的 GPU，但它实际上并不比 2014 MBP 的 i7-4870HQ 快多少显卡回本计算器，但它仍然比这个四核、超线程 CPU 快。

不过相比i7 50W的功耗，Jetson Nano的平均功耗始终保持在12.5W，也就是说功耗降低了75%，性能提升了50%。 10%。

NVIDIA Jetson Nano

虽然 Jetson Nano 在 MobileNetV2 分类器中没有表现出令人印象深刻的 FPS 率，但它的优势非常明显：

它价格便宜，功耗低，更重要的是，它运行 TensorFlow-gpu 或任何其他 ML 平台的操作，就像我们通常使用的任何其他设备一样。只要我们的脚本不深入 CPU 架构，就可以运行与 i7 + CUDA GPU 完全相同的脚本，也可以进行训练！ Sam 强烈希望 NVIDIA 应该使用 TensorFlow 预加载 L4T。