您将学到什么
- Jetson Agx Orin开发套件的情况。
- 什么是Jupyterlab，与Jetson Agx Orin有什么关系？
- 为什么比尔·黄不遵循指示。
好的，我将首先从上面的最后一枚项目开始。如果我能够更早地运行，我会早些时候写这篇评论。但是，由于没有阅读指示和做事的顺序，我不得不来来回走动，以弄清为什么我无法运行演示。我可能会被宽恕，因为该系统正从我的初始文章中提到的盒子里出现在运行Ubuntu套件特写视频。
一旦我安装了JetPack SDK和Deepstream软件，我就可以快速运行所有演示和基准测试。我会跳过后者，因为您可以轻松找到系统规格，并且它们当然同意硬件吐出的内容。这是实际上使粉丝运行到足以引起注意的几件事之一。它正在将硬件推向极限，大多数演示并非如此。
开发套件是一个完整的系统，它具有Jetson Agx Orin模块的核心（图。1）。额外的内存和闪存存储意味着我不必像过去的Jetson平台那样添加NVME M.2卡。添加一个可能对更苛刻的应用程序有用。该图还显示了较小的Jetson Orin模块，其记忆力和性能少于其大哥。它适用于低成本，低重量的应用程序，这些应用程序可以通过较少的计算功率来获得。
假设您没有犯我的错误并跳下来，那么您可以在下午完成测试。
软件支持
要充分利用系统，您将需要了解jupyterlab。没有此功能可以使用所有库等，但是大多数演示和支持都是使用jupyterlab完成的（图2）。这是一个基于网络的笔记本风格的交互式系统，已由许多AI开发人员和平台采用。
系统非常好 - 它可以运行命令行脚本之类的内容，并在与命令的同一浏览器窗口中显示结果。它与Docker和Kubernetes等其他开源平台互动良好，这对nvidia，因为这些都在云中和诸如Jetson Agx Orin之类的平台上使用。它包括一些演示。还有一个多源版本称为jupyterhub。
此时，我还没有深入研究Jupyterlab，但是您可以在光标在块中简单地键入控制输入来在代码块中运行脚本。同样，左侧的条可能会导致块扩展或塌陷，这很方便，因为某些结果可以长。
陶：火车，适应和优化
只是为了记录，我在设置中的错误无法正确安装深层。一旦我这样做，我就可以查看验证的型号，并使用TAO（火车，适应和优化）支持。这可以在云中或系统中运行容器，以训练或使用训练有素的模型。该示例在Jetson AGX Orin上展示了受过训练的模型，能够识别多个在多个视频流中移动的人（图3）。
将所有内容启动并运行只是在Jupyterlab笔记本电脑上进行各种演示的问题。该平台似乎有足够的净空。Linux负载和热负载（基于风扇操作）很小。不确定如何检查GPU或AI加速器上的负载，但我怀疑这也很低。这意味着单个芯片可以在汽车上处理六台摄像机而不会出现太多麻烦，从而可以对用于基本人员识别的视频流进行更多分析。
当然，毫不费力地把我挑出来（图4）。我没有方便或多个摄像机的人群，但是我毫不怀疑该系统在这些情况下会很好地工作，因为我能够将其喂养不同的视频文件。
Riva语音分析
Riva演示没有漂亮的图片，因为它本质上是音频。同样，看到我试图给予它的胡言乱语，只是看我的话语的笔录，Jetson Agx Orin和Riva软件在分析和介绍给我时毫不费力。
Riva SDK旨在构建语音应用程序。仅模型改进就可以提高性能超过10倍。它匹配或超过云中可用的自动语音识别（ASR）和文本到语音（TTS）支持。我只使用了英语，但是可以使用不同语言的预培训模型。
前面提到的TAO支持已在视频流中显示，但对于Riva等其他平台，同样的方法也适用。同样，它使用nvidia tensorrt优化，如果云解决方案与您想要的内容更加内联，则可以使用Nvidia Triton推理服务器使用。对我来说，Jetson Agx Orin的独立支持更加有趣。它可以像有多人和多个麦克风的汽车一样处理多个音频流。
跟随
尽管演示和基准很快就滚下了系统，但使用Riva SDK之类的事物进行了更多的工作，尤其是在程序级别上。原因只是围绕大量接口和选项以及处理陶，等等。这甚至不包括诸如Tensorrt，Cudnn或Cuda之类的基础技术。
尽管如此，这还是Nvidia擅长的领域 - 文档和图书馆的支持仍然相当不错。同样，大多数软件跨越了公司的高端企业系统，跨越低端Jetson模块的平台。这些通常为基于云的培训涉及的云提供动力。
与我使用的第一个Jetson平台相比，在质量和开箱即用的支持方面，这使我感到惊讶。
