Представлена ​​NVIDIA Jetson AGX Orin: платформа следующего поколения, на которой будут работать наши роботы-повелители с искусственным интеллектом

комплект герой nvidia jetson agx музыка
В основе каждой автономной машины , современного промышленного робота и автоматизированного производственного устройства лежит некая форма искусственного интеллекта. Эти вещи также удивительно сложны — есть не только модели для обучения, но и датчики для интерпретации и реакции, которые нужно формулировать. NVIDIA была в авангарде недавней революции робототехники со своим семейством одноплатных компьютеров Jetson, восходящим к оригинальному Jetson TK1 в 2014 году. Восемь лет спустя появился последний член линейки: Jetson AGX Orin. . Orin просто наваливается на то, что NVIDIA называет огромным лидером в области искусственного интеллекта; по собственной оценке, Jetson AGX Xavier 2020 года по-прежнему остается самым быстрым решением для приложений ИИ на рынке, но прогресс продолжается.

Изначально это был обзор. Мы должны были получить комплект для разработки, но задержки, связанные с COVID-19 за границей, и общая проблема с цепочкой поставок, с которой все недавно столкнулись, помешали. Этот обзор и обзор комплекта разработки еще впереди, но на сегодня мы должны довольствоваться достойным слюни аппаратным ускорением AI.

Встречайте Jetson AGX Music

Jetson AGX Orin привязывает текущую архитектуру Ampere от NVIDIA к достаточной мощности процессора, чтобы поддерживать ее, а затем открывает шлюзы с тоннами памяти, как с точки зрения размера пула, так и с точки зрения доступной пропускной способности. Обычно именно здесь мы пишем «{{ вставьте сюда имя ЦП }} в основе», но на этот раз действительно тяжелая работа исходит от графического процессора. NVIDIA предоставила Jetson AGX Orin довольно внушительное количество аппаратных ресурсов: 2048 ядер CUDA, 64 ядра Tensor и пару движков NVIDIA Deep Learning Accelerator (DLA), основанных на спецификации NVDLA.

генеалогическое древо nvidia jetson agx orin
Семья Джетсон сильно изменилась за последние восемь лет.

64 тензорных ядра A100 третьего поколения — одна из основных причин, по которой можно инвестировать в архитектуру искусственного интеллекта NVIDIA. Их основная цель — проводить обучение ИИ с использованием формата Tensor Float 32 (TF32) смешанной точности от NVIDIA. Помните, что для обучения ИИ, как на этапе обучения, так и на этапах вывода, не требуется точность, которая требуется для традиционного рендеринга графики, поэтому он может помещать несколько значений в один регистр и выполнять над ними операции, предлагая огромное ускорение вычислений. С другой стороны, DLA — это то, что вы можете назвать нейронной сетью. Они могут быть реализованы в ПЛИС или любом количестве архитектур ЦП, и в случае с NVIDIA это на самом деле дизайн RISC-V. Они снабжают тензорные ядра данными и ускоряют операции обучения.

Вы можете спросить, что со всеми ядрами CUDA? Проще говоря, NVIDIA считает, что каждому роботу нужно лицо. Также вероятно, что ему нужно отображать текст, статичную графику, анимацию или 3D-декорации. Что бы ни требовал робот, под капотом достаточно мощности растровой графики, чтобы нарисовать это. Это может показаться излишним, но дружественный пользовательский интерфейс или виртуальный «человек» могут сделать робототехнику более доступной для человека. Если вам интересно, количество ядер CUDA и Tensor такое же, как и в мобильной версии GeForce RTX 3050, что соответствует небольшому тепловому и энергетическому бюджету. Однако 16 ядер трассировки лучей в мобильной RTX 3050 отсутствуют.

Когда мы выходим за рамки этого, модуль Jetson AGX Orin имеет до 64 ГБ памяти LPDDR5 с пропускной способностью 204,8 ГБ в секунду. Есть несколько конфигураций ноутбука GeForce RTX 3050 , но это на самом деле немного быстрее, чем у большинства. Причина этого в том, что память распределяется между компонентами CPU и GPU. Говоря о процессоре, есть многоядерный блок Arm Cortex A78 с 3 МБ кэш-памяти L2 и 6 МБ кэш-памяти L3. NVIDIA заверила нас, что эти ядра предлагают достаточные ресурсы для разработки непосредственно в наборе для разработки.

производство модулей nvidia jetson agx orin

Существует несколько версий Jetson AGX Orin, которые будут представлены в двух вариантах: с 32 ГБ или 64 ГБ памяти, где больший пул памяти сопровождается более высоким бюджетом мощности и лучшей общей производительностью. AGX Orin 32 ГБ имеет 8-ядерный блок ЦП Cortex A78, 32 ГБ LPDDR5, указанный в его названии, и может обеспечить 200 TOP вычислительной мощности AI за 899 долларов. AGX Orin 64 ГБ более высокого класса имеет 12-ядерный процессор A78, 64 ГБ LPDDR5 и проверяет 275 лучших показателей производительности за 1599 долларов. Мощность варьируется от 15 до 60 Вт. Есть также несколько гораздо меньших модулей в более низких ценовых категориях в серии Orin NX, которые снижают производительность, энергопотребление и доступную память до нуля в конфигурациях 8 ГБ или 16 ГБ.

Влияние Jetson AGX Orin на производительность огромно по сравнению с Jetson AGX Xavier , не говоря уже о миниатюрном Jetson Nano . Компания заявляет, что сегодня Орин более чем в три раза быстрее использует алгоритмы видения и разговорного ИИ, чем Ксавье. Кроме того, с будущими улучшениями программного обеспечения NVIDIA заявляет, что это преимущество будет расти почти в пять раз быстрее. Все это нужно новым роботам, чтобы не отставать от возросшего количества датчиков, которые входят в их корпус. Раньше это была пара камер и микрофон, но у современных роботов есть LiDAR, радар, ультразвуковые датчики и многое другое, и вся эта дополнительная информация должна обрабатываться так же быстро, как это делали несколько датчиков в прошлом. . Дополнительный ввод накапливается очень быстро, требуя аппаратного масштабирования вместе с ним.

Расширенные инструменты разработчика NVIDIA

Запуск Jetson AGX Orin включает специализированное оборудование для разработки. Эта впечатляюще выглядящая маленькая система вписывается в формат, близкий к формату mini ITX, но адаптированный для собственного корпуса. Полный комплект включает в себя плату разработчика AGX Orin, которая представляет собой нечто среднее между двумя серийными платами. Он получает 32 ГБ памяти, но имеет 12-ядерный процессор и производительность 275 TOPs в конфигурации более высокого уровня. Этого определенно должно быть достаточно, чтобы начать кодирование доказательств концепции и даже производственных реализаций без необходимости выходить за рамки.

комплект разработчика nvidia jetson agx music

Плата разработки имеет довольно много дополнительных операций ввода-вывода, как и комплект для разработки. Есть ожидаемый разъем JTAG и 40-контактный разъем GPIO, дополнительные разъемы для датчиков и достаточное количество USB для подключения не только камер и микрофонов, но также клавиатуры и мыши. Но вдобавок ко всему есть 10-гигабитный Ethernet и даже пара слотов PCI Express. Мы очень хотим покопаться в этом маленьком наборе и посмотреть, что он может сделать, когда он прибудет, и вы можете быть уверены, что об этом будет последующее освещение. Этот комплект доступен для заказа сегодня по цене 1999 долларов США в качестве мини-ПК для разработчиков, готовых заняться миром робототехники. Все это суммировано в этих таблицах ниже.

характеристики платы nvidia jetson agx orin

спецификации devkit nvidia jetson agx orin

Аппаратное обеспечение приятно иметь, но отличное аппаратное обеспечение может работать только настолько, насколько разработчики могут его нести. Нужны новые инструменты, и NVIDIA выпускает новые версии всех своих различных API и новый Jetpack SDK. Версия 5.0 будет очень большим релизом, но, тем не менее, NVIDIA заявляет, что усердно работала над поддержанием обратной совместимости, чтобы разработчикам, работавшим с предыдущей версией 4.6, не пришлось вносить много изменений в код для перехода на новую платформу. Также есть новая ОС реального времени, так как семейство Orin было построено на Ubuntu 20.04 LTS, тогда как предыдущие RTOS вернулись на Ubuntu 18.04.

SDK обновляет nvidia jetson agx orin

NVIDIA также подготовила несколько демонстраций, демонстрирующих возможности новой платформы и помогающих разработчикам начать работу. Демонстрация TAO демонстрирует предварительно обученные библиотеки NVIDIA, которые являются частью набора инструментов TAO. TAO может имитировать данные для вывода, эффективно используя модель ИИ для обучения другой модели ИИ, или использовать данные, предоставленные разработчиками, для ускорения процесса обучения. Между тем, демонстрация RIVA демонстрирует модели NVIDIA Riva Automatic Speech Recognition (ASR) и Text-to-Speech (TTS) для обработки естественного языка. Появилось множество новых моделей и алгоритмов

Выводы NVIDIA Jetson AGX Orin

Пока сложно делать какие-то выводы, но NVIDIA, похоже, готова продолжать лидировать на рынке робототехники. Дополнительную производительность приятно иметь в играх, но мы рассматриваем потенциально нечто революционное в области демократизации робототехники, снижения их стоимости и в то же время повышения их интеллекта. Все это основано на той же технологии, которую NVIDIA довольно тщательно тестировала в своих центрах обработки данных, и приятно видеть, что Ampere пробивается на новые и захватывающие арены. Мы углубимся в аппаратное обеспечение для разработчиков и скоро опробуем некоторые из его новых программ, поэтому следите за тем, чтобы ваш браузер был направлен на Hot Hardware .

Источник (англ.)

Поставить оценку
Кофебрейкер | Интернет-журнал