查看更多技术谈话视频。
NVIDIA的TAO(火车,适应,优化)工具包旨在简化来自Pytorch和Tensorflow等框架的人工智能(AI)和机器学习(ML)模型的开发和集成。此低音平台的最新版本包括新的和更新的预训练的视觉和语音模型。
该工具包使开发人员可以将ONNX模型权重导入其修剪和应用量化以优化模型的能力(图。1)。对于图像分类和分割模型,支持此功能。
支持TensorFlow的张板可视化工具已添加到TAO中。这种可视化可以适用于指标,以突出显示验证损失和准确性以及呈现模型图。
现在可以使用REST API部署TAO Toolkit-AS-A-Service(TAAS)。开发人员能够构建AI服务并将TAO集成到现有的应用程序和服务中。它还可以在Kubernetes上精心编排TAO工具包服务。对TAO工具包的企业支持是NVIDIA AI Enterprise的一部分,Nvidia Ai Enterprise是AI开发和部署的端到端软件套件。