主动驾驶汽车还未上路，主动驾驶汽船已正在披荆斩棘

因为海平面的范畴更大，主动驾驶汽船的图像辨认和处置惩罚本领要求比主动驾驶汽车更高，但惊人的是在一项庞大的汽船主动驾驶项目中，对AI推理加快的事情只依靠CPU就实现了，这证明白CPU完全可以胜任AI推理的事情。

这要谢谢该项目中采纳了英特尔至强铂金8153处置惩罚器。而英特尔公布已于本日开始生产第三代英特尔®至强®可扩展处置惩罚器（代号“IceLake”）将于2021年第一季度实现范围量产。更强的处置惩罚本领，可以关心更多的主动驾驶汽船乘风破浪。

有件事变一向令我感触奇怪：

都2021年了，如今有主动驾驶船在海上行驶吗？

带着这个题目，我打开谷歌，输入“Autonomous ship”，没想到如今的主动驾驶汽船技能革新了我的认知：

完全无人的主动驾驶汽船本年将横渡大泰西；零排放的主动驾驶汽船正在研发中……

△ 预备横渡大泰西的“五月花号”主动驾驶船（图片来自IBM）

除了试验室里的结果，其贸易化进度更是凌驾我的想象：

本来，早在2018年，RR（也便是劳斯莱斯）曾用主动驾驶汽船乐成跨海输送了80名VIP客户的汽车。

RR的技能来自一家挪威公司——Kongsberg Maritime（康斯博格海事）。他们运用雷达和摄像头检测并避开停滞物，在途中主动行驶，驶入口岸后主动停泊。

之后，RR贸易海事部分于2019年4月被Kongsberg收购。

而这家Kongsberg，正是前面提到的开辟零排放主动驾驶船舶的帆海巨擘。

在Kongsberg的技能蓝图里，将来挪威公司生产的化肥将在三个口岸之间装船、飞行和卸货。整个历程完全无需人工现场干涉。

△ Kongsberg正在开辟的天下第一艘主动驾驶集装箱货船（图片来自官网）

根据国际海事构造（IMO）的界说，如今的主动驾驶汽船技能正在从L2向L3演进。

至此，我对主动驾驶汽船的贸易化历程已经有大抵的相识，那么剩下的题目来了。

汽船怎样主动驾驶？

主动驾驶汽车利用的技能和芯片八门五花，有对峙只用图像辨认的，也有联合激光雷达的；有自研芯片的，也有购置第三方盘算平台的。

Kongsberg用的是什么方案？

和大多数无人车雷同，Kongsberg的方案采纳了多种传感器：雷达探测远间隔物体，激光雷达对船体周边地区举行高精度阐发，高清摄像头拍摄船舶火线海疆180度视野景色。

这便是他们首款上市的全主动驾驶船办理方案Intelligent Awareness（智能意识）。

三种传感器网络到的信息，颠末算法处置惩罚后表现在屏幕上，海员可以通过仪表盘看到高亮表现的潜伏伤害地区。

根据，Kongsberg的说法，“智能意识”可关心低落帆海者的危险，尤其是在暗中情况、恶劣气候条件下，或是拥挤海疆，以及收支船厂之时。

固然，此中用的图像辨认与分类比主动驾驶汽车要庞大得多。

由于海面上的搜刮间隔更大，是以图像中物体的缩放比例是一个庞大挑衅。雷同物体在差别间隔上出现的巨细有天壤之别，大概最小10个像素块、最大10万个像素块。

△海上目的检测因间隔题目导致模子正确率降落

这必定对硬件有很高的要求。

他们竟然只用CPU

然而令人惊讶的是，Kongsberg在这套方案里没有利用AI推理加快硬件，好比独立的GPU或NPU，而是完全依靠于英特尔的CPU（和内部集成GPU）。

纵然在运算量更小的主动驾驶车上，不利用专门的AI芯片都是不行想象的。

何况Kongsberg已往的AI方案也不是没利用过GPU，为什么在汽船上反而不消了？令人费解。

厥后，这家公司的一位项目司理Saarela在采访中道出了启事：

此中一个紧张缘故原由是海事认证题目。假如不消GPU，我们的办事器会更简单通过认证。并且，我们还想低落功耗。

我们抱负的方案是利用差未几雷同的通用办事器体系。我们并不是每台办事器都必要GPU，全部办事器都不消GPU会更好，如许我们就得到了冗余，能在任何办事器上运行任何应用步伐。

产业范畴严苛的认证体系，贸易用户节省本钱的需求，让全CPU方案成为了“主动驾驶汽船”的首选方案。

现实上， CPU也是完全可以胜任AI推理的。

在这套方案中，Kongsberg利用两个英特尔至强铂金8153处置惩罚器，每个处置惩罚器有16个内核。每个内核可处置惩罚两个线程，以是统共可并行处置惩罚64个模子。

硬件规格肯定够豪华。题目是，CPU能餍足主动驾驶的盘算需求吗？

对付这一点，就连项目司理Saarela本人最初也没有信念。

假如CPU处置惩罚图像的速率不敷快，那么主动驾驶汽船就大概撞到其他高速移动的船只。对付贸易海运来说，这种变乱造成的经济丧失不容小觑。

谁说CPU不得当AI推理

为相识决这个困难，Kongsberg找来CPU提供商英特尔联手优化了“智能意识”办理方案。

Kongsberg卖力提供预先练习好的人工智能模子供英特尔利用。而英特尔则提供OpenVINO“加快包”，在不低落正确度的情形下关心提拔数据处置惩罚速率。

OpenVINO（开放式视觉推理和神经网络优化）是英特尔于2018年推出的深度进修优化与摆设开源东西包，关心开辟者更便利地在英特尔硬件平台上摆设AI模子。

OpenVINO支持Caffe、TensorFlow、MXNet、ONNX等主流深度进修框架，而PyTorch、PaddlePaddle等支持转换为ONNX的框架也可以间接利用，笼罩了绝大多数AI开辟者。

固然，用TensorFlow开辟主动驾驶汽船的Kongsberg也不破例。

OpenVINO将练习好的模子通过模子优化器转换为中心表现 (IR)文件（*.bin和*.xml）。

因为去除了模子中任何仅与练习相干的运算，并将部门推理运算融合在一路，以是大大加速了推理盘算的速率。

下图展示了OpenVINO（深蓝色）在模子中的作用，它就像假设在深度进修框架（浅蓝色）和用户应用（橙色）之间的桥梁。

OpenVINO将练习后的模子针对英特尔硬件举行深度优化，再重新摆设，并且这个历程中无需重新练习AI模子。

经优化后，在Kongsberg的一个目的辨认基准项目上，CPU每秒处置惩罚的图片数目提拔了4.8倍。

看到这个效果后，Kongsberg的项目司理Saarela表现：

效果让我非常震惊。我原认为我们永久都开脱不了GPU，但这些效果转变了我的想法，让我看到了利用CPU的大概性。

打开OpenVINO的先容页面，你会发觉，这套东西给英特尔CPU带来了庞大的AI技能加成。

最新的2021.2版功效已非常壮大，支持图像分类、语义支解、目的检测、人脸辨认、单眼深度估量、图像修补等险些全部CV应用模子。

而作为一款可以放心用于产业范畴的东西包，英特尔也思量到稳健性提供LTS版，包管了性能、接口向后兼容性、7x24稳健性以及压力测试。

搭配上英特尔配套提供的Python分发版，只需微调代码即可进步Python应用步伐的性能，加快NumPy、SciPy和Scikit-learn等科学盘算、呆板进修库。

在官方文档中，Python分发版最高可以带来数倍的性能提拔。

如今，我最终明确，Kongsberg为什么只用CPU也能开辟主动驾驶汽船了。

实在不但是汽船，雷同的场所还许多。就拿许多小我私家开辟者来说，一台开辟电脑大概没有独立显卡，但是肯定不克不及没有CPU。

而有了OpenVINO东西包的加持，受限的硬件情况一样能发挥出AI的性能。

说到这里，我忽然想起来之前在英特尔开辟者运动上抽中的奖品——第二代神经盘算棒，这家伙放在我抽屉里好久了。

我特地辞官网盘问了一下，这款英特尔硬件也支持OpenVINO，并且我近来还入手了树莓派开辟板，正愁怎样利用。

没想到办理主动驾驶汽船的疑问，还帮我办理了另一个困难——怎样防备树莓派吃灰，如今是时间用OpenVINO和神经盘算棒去重新摆设一下我的YOLO模子了。