河北新闻_河北省新型媒体生活门户!_河北网龙

河北新闻_河北省新型媒体生活门户!_河北网龙

河北网龙是河北省新型门户网站,我们以最饱满的热情和丰富的媒体运营经验,致力于打造最受河北省人民欢迎的网络生活平台。

菜单导航
河北网龙 > 资讯 > 正文

GPU和NNA让边缘智能更快、更好地落地

作者: 河北网龙 更新时间: 2019年11月11日 09:33:12 游览量: 196

简述:

来源:与非网,谢谢! 在当前的科技圈,最火的技术名词莫过于 5G 和 AI。5G 作为一种全新的网络架构,提供 10Gbps 以上的峰值速率、更佳的移动性能、毫秒级时延和超高密度连接;

来源:与非网,谢谢!

在当前的科技圈,最火的技术名词莫过于 5G 和 AI。5G 作为一种全新的网络架构,提供 10Gbps 以上的峰值速率、更佳的移动性能、毫秒级时延和超高密度连接;AI 则是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等),主要包括计算机实现智能的原理、制造类似于人脑智能的计算机,使计算机能实现更高层次的应用。

而 5G / AI 均和边缘计算有关联。Imagination PowerVR 视觉及 AI 部门高级总监 Andrew Grant 认为,在嵌入式设备上使用 AI 进行边缘计算是 AI 革命的一部分;5G 是将边缘带入下一阶段的大规模商业化的技术之一,与 AI 一样,能最好地证明这一点的应用仍在开发之中。

GPU和NNA让边缘智能更快、更好地落地

Imagination PowerVR 视觉及 AI 部门高级总监 Andrew Grant

Andrew Grant 对此进行了详细的论述。

针对 AI 和边缘计算

这个简单的原理使复杂的系统能够显著加快推理速度。设备和传感器现在可以识别猫,甚至许多其他物体,就像人以实时决策的速度进行识别一样。在自动驾驶汽车中,这些系统可以识别其他车辆,区分道路和人行道,区分行人和道路标志。然后,它们可以开始作决定,不仅决定车辆应该做什么,还可以进行预测,例如一位行人是否将要冒险进入道路。

这里至关重要的是,这种复杂的推理传统上是在“云端”执行的,但现在可以在“边缘”设备上运行——即在本地嵌入式处理器中运行,在仅占用 1-2 平方毫米硅面积上,可提供以优异性能加速神经网络层的能力。这改变了游戏规则,因为这意味着强大的 AI 计算能力现在可以置入最小的 IoT 设备中。

边缘设备中的这种硬件 NNA 正在实现 AI 性能的阶跃式变化,这将为汽车、机器人、监控摄像头和整个城市带来智能。随着 AI 越来越靠近边缘并进入传感器、摄像头和手机等设备中,在许多情况下,它无需云计算机架,而是将分析转移至 IoT 设备本身。这消除了处理过程中的所有延迟,并将 IoT 数据转换为有用的信息以改善决策过程。在数据中心经过大规模训练的强大的神经网络,通过量化和自适应,可以被部署在小型边缘设备上。上述这些技术的应用将特别有助于克服延迟、传输、安全和成本方面的挑战。

通过在一片比针头还小的芯片上进行推理,这些边缘设备将影响众多市场——包括但不限于安全、零售、联网家庭、教育、农业和健康。过去还只能想象的处理能力此刻已掌握在我们手中。随着这些边缘设备越来越多地被用于工厂、家居和汽车中,它们最终将变得无处不在,到了那个阶段,它们基本上将成为无形的、遍及各处的“智能边缘”。

人工智能的这种增长趋势已经得到了广泛关注,诸如英国《金融时报》、麦肯锡和德勤等主流机构最近都发表了报告和文章,强调神经网络正在走向边缘,创造了“环境式”人工智能(“ambient” AI)。这已经被称为 AIoT,它将智能边缘进一步带向 AI 与 IoT 的结合。随着廉价传感器和设备的快速增加,它们通过运行神经网络的能力获得了智能,实现了“双赢”的局面。

针对 5G 和边缘计算

我们可以看到改进的连接性使边缘应用能够做更多的事情。移动设备、汽车和智能基础设施将推动此项技术应用向前发展。

智慧城市全都是智慧 AI 赋能的基础设施。在智慧城市中,监测交通流量的传感器将数据传送回云端的“大脑”,从而使交通能够顺畅地运行,提高道路使用效率。在一个智慧城市中,汽车将依靠这一智能基础设施使驾驶员了解即将要面临的交通状况。因此,尽管与路灯柱、交通信号灯和路标交流对普通人来说似乎很疯狂,但是未来,您的汽车无时无刻都会做这些事情。同样地,我们将看到车辆对车辆(V2V)和车辆对基础设施(V2X)系统越来越多地被使用,还将看到通过交互使智能边缘传感器“所见”的内容作为有用的信息被传递。V2X 将成为一项基本要求——这需要在数万亿个传感器上实现 AIoT。AIoT 将为这种车辆与基础设施之间的通信提供支持,实现多个途径的信息交换,从而使车辆能够基于实时信息和预测信息作出知情的选择。

例如,当高速公路标志因为人工控制人员没有意识到需要刷新而显示过时的信息时,会多么令人沮丧?又例如,在绕过拐角并成为三英里堵车长龙的一部分之前就知道从出口出去是不是会更好?当前,卫星导航系统依靠众包数据来实现这一功能,但是使用实时信息将使这一过程自动化并减少获取数据时的延迟。

边缘计算只是整个过程的开始。神经网络加速正在使城市、汽车、工厂机器人和监控摄像头中的边缘设备变得更加智能。我们用于神经网络加速的架构创造了“智能边缘”,它是一种无处不在的、无形的技术。

Imagination 的边缘计算布局

通过 Andrew Grant 的描述我们不难发现,不管是 AI、5G 还是边缘计算,都有着巨大的未来潜力,但是还远远没有真正释放。我们依然处于这些技术爆发的“前夜”。

而边缘计算之所以难以大规模落地的原因之一就是缺少基准程序和行业标准。Andrew Grant 表示:

在 AI 和嵌入式领域,真的可以说很难找到合适的性能基准,但是,这些最终都将会实现,AI-benchmark.com 和 AIIA 在建立通用基准方面已经做了有价值的工作。然而,迄今为止,AI 基准通常专注于数据中心的工作负载,在这类工作负载上主要测量浮点数据而非量化性能(更小的边缘模型和更快的整数性能)。在数据中心训练深度学习模型的基准与在边缘端进行推理的基准相差甚远,而边缘端才是边缘 AI 发挥作用的地方。的确,如果移动 GPU 运行神经网络工作负载的速度可以比移动 CPU 快 10 倍,那么专用神经网络加速器运行相关工作负载的速度通常可以比移动 CPU 快 200 倍。

文章链接:http://www.hbwanglong.com/zixun/989.html

文章标题:GPU和NNA让边缘智能更快、更好地落地