热门关键词:格林娱乐,格林娱乐网注册登录  
当前位置:首页 > 企业新闻
NVIDIA扩展其面向超大规模数据中心的深度学习推理能力_格林娱乐网注册登录
2021-01-08 [56888]

格林娱乐_2018年3月27日,NVIDIA(纳斯达克:NVDA)宣布了一系列新技术和合作,将其潜在的推理小说市场扩大到全球3000万台超大规模服务器,同时大大降低了基于深度自学的服务交付成本。在GTC2018主题演讲中,英伟达创始人兼首席执行官黄仁勋回应称,由于数据中心、汽车应用以及包括机器人和无人机在内的嵌入式设备中语音识别、自然语言处理、推荐系统和图像识别等新功能的反对,深度自学推理小说的GPU加速越来越受到关注。英伟达宣布发布新版TensorRT推理小说软件,并将TensorRT内置于谷歌的TensorFlow框架中。

英伟达还宣布,目前最流行的语音识别框架Kaldi针对GPU进行了优化。英伟达与亚马逊、Facebook、微软的紧密合作,让开发者更容易使用ONNX和WinML,充分发挥GPU加速的优势。英伟达加速计算副总裁兼总经理IanBuck回应:即使是最大的神经网络,大批量生产的深度自学推理小说的GPU也需要以较低的成本进行动态操作。

随着对更好的智能应用和框架的反对意见的缓慢扩展,我们现在需要提高深度自学的质量,并帮助降低3000万台超大规模服务器的成本。TensorRT和TensorFlow搭建NVIDIA发布的Tenso格林娱乐rRT4软件,加速推理小说深度自学,实现普遍应用。TensorRT获得高度精确的INT8和FP16网络并继续执行,可使数据中心成本至少增加70%。(1)tensort 4可作为训练好的神经网络,用于超大规模数据中心、嵌入式和汽车GPU平台的慢速优化、验证和部署。

格林娱乐

与CPU相比,对于计算机视觉、神经网络机器翻译、自动语音识别、语音合成和推荐系统等罕见应用,该软件可以将深度自学推理小说的速度降低至少190倍。(2)为了进一步精简R&D,英伟达和谷歌工程师搭建了TensorRT到TensorFlow1.7,更容易在GPU上操作深度自学推理小说。谷歌工程总监RajatMonga回应:TensorFlow团队正在与NVIDIA紧密合作,将NVIDIAGPU的最佳表现推向深度自学社区。现在通过TensorFlow和NVIDIATensorRT的构建,使用VoltaTensorCore技术(相比延迟目标更低的普通GPU)可以将NVIDIA深度自学平台推理小说的吞吐量提高8倍,使GPU在TensorFlow推理小说中的性能最低。

格林娱乐网注册登录

英伟达优化了世界领先的语音框架Kaldi,以构建运行在GPU上的较低性能。GPU语音加速意味着消费者将获得更加精准简单的虚拟世界助手,降低数据中心运营商的部署成本。业界普遍反对。

来自世界各地许多公司的开发人员正在使用TensorRT从数据中提供新的见解,并为企业和消费者部署智能服务。英伟达与亚马逊、Facebook、微软紧密合作,确保Caffe2、Chainer、CNTK、MXNet、Pytorch等ONNX框架的开发者现在可以在英伟达深度自主学习平台上进行精彩部署。思爱普机器学习主管马库斯诺加(MarkusNoga)回应道:我们通过在NVIDIATeslaV100GPU上运行我们的深度自学推荐应用程序来评估TensorRT。

相比基于CPU的平台,我们在推理小说的速度和吞吐量上实现了45倍的提升。我们坚信,TensorRT需要大大提高我们企业客户的生产力。

TwitterCortex负责人NicolasKoumchatzky回应说:通过在我们的平台上使用GPU构建媒体阅读,不仅显著增加了媒体深度自学模型的训练时间,还要求我们在推理小说时代获得对实时图像的动态理解。最近,微软也宣布反对在Windows10中应用人工智能。英伟达与微软公司合作,创建了一个GPU加速工具,帮助开发人员在Windows应用程序中引入更多智能功能。

格林娱乐

英伟达还宣布了针对Kubernetes的GPU加速,以增强推理小说在多云GPU集群上的部署。 NVIDIA将针对Kubernetes生态系统增强开源社区的GPU性能。

另外,MATLAB软件开发商MathWorks今天宣布了TensorRT和MATLAB的建设。工程师和科学家现在可以用MATLAB自动分解NVIDIADRIVE了?杰特森?跟特斯拉?基于平台的高性能推理小说引擎。面向数据中心的推理小说数据中心运营者必须努力在性能和效率之间取得平衡,以保持其服务器场的生产率仅次于其他服务器场。鉴于深度自习推理小说对和服务的应用,NVIDIATeslaGPU加速服务器需要更换几个机架的CPU服务器,从而释放宝贵的机架空间,降低市场对能源和散热的需求。

TensorRT是一款针对自主车和嵌入式平台的推理小说,也可以部署在NVIDIADRIVE自主车和NVIDIAJetson嵌入式平台上。基于各个框架的深度神经网络可以用在NVIDIADGX?在系统中训练,然后部署到包括机器人到自动驾驶车辆在内的各类装备,在终端构建动态推理小说。

有了TensorRT,开发人员可以专注于开发基于深度自学的新应用程序,而不是为神秘的小说部署执行性能调整。凭借INT8或FP16的精度,可以显著降低延迟,开发者可以使用TensorRT交付闪电般的推理小说,这对嵌入式和汽车平台上的目标检测和路径规划功能非常重要。英伟达开发者计划的成员可以更好的了解关于TensorRT4候选版本的信息:https://developer.nvidia.com/tensorrt.关于英伟达(NASDAQ: NVDA)是一家人工智能计算出来的公司。

格林娱乐

1999年,它的发明者GPU引发了PC游戏市场的快速增长,新定义了现代计算机显卡,创新了并行计算。最近,通过使用GPU作为计算机、机器人甚至可以感知和解释世界的自动驾驶汽车的大脑,GPU深度自学习在计算的新时代再次扑灭了现代人工智能。

-格林娱乐。

本文来源:格林娱乐-www.egeblue.com