Jetson Orin Nano Super предлагает до 1,7-кратного увеличения производительности для задач генеративного ИИ по сравнению с предыдущей версией. Производительность повысилась на 70%, достигнув 67 INT8 TOPS, а пропускная способность памяти увеличилась до 102 ГБ/с. Эти улучшения позволяют эффективнее создавать чат-ботов и ИИ-агентов, а также управлять роботами.
Комплект включает систему на модуле (SoM) Jetson Orin Nano с 8 ГБ памяти и референсную плату-носитель. Размер устройства настолько мал, что оно помещается на ладони, что делает его идеальным для прототипирования и использования в различных проектах. Возможность подключения до 4 камер с высоким разрешением и частотой кадров пригодится разработчикам.
Технические характеристики Jetson Orin Nano Super включают графический ускоритель на архитектуре Ampere с специализированными тензорными ядрами и шестиядерным процессором Arm. Это позволяет одновременно запускать несколько пайплайнов ИИ-приложений, обеспечивая высокую производительность инференса. Такие характеристики делают комплект подходящим для разработки в областях генеративного ИИ, робототехники и компьютерного зрения.
Для владельцев существующих Jetson Orin Nano Developer Kit Nvidia https://www.theverge.com/2024/12/17/24323450/nvidia-jetson-o... обновления программного обеспечения, которые значительно улучшат производительность генеративного ИИ без необходимости приобретения нового оборудования. Кроме того, пользователи могут воспользоваться обширными учебными материалами, поддержкой сообщества Jetson и вдохновением от уже реализованных проектов.
Jetson Orin Nano Super совместим с программным пакетом Nvidia, включающим инструменты для робототехники (Nvidia Isaac), визуального ИИ (Nvidia Metropolis) и обработки сенсоров (Nvidia Holoscan). Дополнительно, Nvidia предоставляет ресурсы, такие как Omniverse Replicator для генерации синтетических данных и TAO Toolkit для доработки предварительно обученных моделей ИИ, доступные в каталоге NGC. Партнеры экосистемы Jetson также предлагают дополнительные программные решения, инструменты для разработчиков и поддержку аппаратных компонентов.
В https://interestingengineering.com/innovation/nvidias-most-a... Nvidia — дальнейшие обновления программного обеспечения для других моделей Jetson Orin, включая Orin NX и Orin Nano SoMs, что позволит большему числу пользователей воспользоваться преимуществами повышенной производительности генеративного ИИ.
