外扩型服务器中的超高效深度学习

在人工智能和智能机器新时代，深度学习正以与历史上其他计算模型截然不同的方式改变 着世界。互动语音、视觉搜索和视频推荐是我们日常使用的众多人工智能服务中的几项。 准确性和响应速度是决定用户是否采用这些服务的关键因素。随着深度学习模型的准确性 和复杂性越来越高，CPU 已经无法再提供响应灵敏的用户体验。 NVIDIA Tesla P4 采用革命性的 NVIDIA Pascal™ 架构，专为处理深度学习工作负载，启用 智能响应人工智能服务的外扩型服务器而打造，可显著提升其运作效率。该显卡可将任何 超大规模基础架构的延迟降低 15 倍，并可以提供比 CPU 高 60 倍的惊人能效。这使得我们 开发了许多新的人工智能服务，这些服务在过去由于延迟限制而无法实现。

NVIDIA TESLA P4 加速器的特性和利益点

 打造 Tesla P4 的主要目的是在外扩型服务器中实现实时推理性能和智能用户体验。

通过实时推理提供快速响应的用户体验 响应速度是决定用户是否使用互动语音、视觉 搜索和视频推荐等服务的关键因素。随着模型的 准确性和复杂性越来越高，CPU 已经无法再提供 响应灵敏的用户体验。Tesla P4 借助 INT8 运算 能力提供高达 22 TOPS 的推理性能，可将延迟 降低 15 倍。	为低功耗外扩型服务器带来更高效率 Tesla P4 凭借小巧的外形和 50W/75W 的功耗为 经过密度优化的外扩型服务器加速。该显卡还可 为深度学习推理工作负载提供比 CPU 高 60 倍的 惊人能效，满足超大规模客户对人工智能应用 程序飞速增长的需求。
借助专用解码引擎开发新的人工智能型视频服务  Tesla P4 配备硬件加速解码引擎，能对多达 35 路 高清视频流进行实时转码和推理，该解码引擎可 与进行推理的 GPU 并行运作。将深度学习集成到 视频管线后，客户可以向	使用 TENSORRT 和 DEEPSTREAM SDK 加快 部署速度  TensorRT 是为优化部署到生产环境的深度 学习模型而创建的库。它通常以 32 位或 16 位 数据的形式获取接受训练的神经网络，并针对 降低精度的 INT8 运算能力优化这些网络。NVIDIA DeepStream SDK 利用 Pascal GPU 的强大功能， 可以同时解码和分析视频流。

参数
[品牌]	英伟达
[型号]	NVIDIA Tesla P4

商品标签