Изучение искусственного интеллекта с комплектом разработчика Jetson Nano 2 ГБ от NVIDIA за 59 долларов

собрал нвидиа джетсон нано 2 гб Машинное обучение повсюду. Распознавание голоса и рукописного ввода, медицинские диагнозы, цифровые помощники (такие как Google Assistant или Siri) и беспилотные автомобили — это лишь малая часть различных средств и методов, с помощью которых машины делают выводы, учатся, растут и, по-видимому, думают самостоятельно. . NVIDIA невероятно инвестирует в технологии машинного обучения и наблюдает взрывной рост своего бизнеса центров обработки данных благодаря огромным достижениям в области искусственного интеллекта . Конечно, центры обработки данных — это только одно место, где живут ИИ и машинное обучение; интеллектуальные устройства на периферии также должны получать информацию из окружающего мира. Вот где на помощь приходят платформы искусственного интеллекта NVIDIA Jetson.

Некоторые высококлассные продукты NVIDIA Jetson немного дороги для любителей и новичков, поэтому компания создала Jetson Nano . Эта платформа существует уже некоторое время как способ для энтузиастов ИИ проникнуть в мир машинного обучения с аппаратным ускорением или для опытных разработчиков, чтобы проверить и быстро развернуть концепции. Самый дешевый комплект Jetson Nano 2 ГБ теперь представляет собой систему на модуле за 59 долларов с множеством подключений ввода-вывода, встроенных в граничные разъемы, где вычислительный ресурс подключается и не намного больше, чем традиционный ноутбук SO-DIMM. Эта маленькая плата оснащена четырехъядерным процессором Arm Cortex A57 и интегрированным 128-ядерным процессором NVIDIA Maxwell . GPU, который ускоряет рабочие нагрузки, ориентированные на CUDA, и имеет достаточно памяти для загрузки и запуска проекта.

Комплект для разработки программного обеспечения NVIDIA JetPack управляет целым рядом приложений, которые полагаются на обученные модели искусственного интеллекта и логические выводы, выполняемые на его архитектурах графических процессоров. Этот графический процессор Maxwell внутри Jetson Nano должен быть способен обрабатывать данные достаточно быстро, чтобы обрабатывать все виды реальных сценариев использования. Обработка изображений включает в себя массу решаемых задач, от идентификации объектов до отслеживания препятствий. Беспилотные автомобили, сельскохозяйственные инструменты и заводское оборудование — это лишь некоторые из приложений, которые в настоящее время работают на технологиях искусственного интеллекта NVIDIA, и Jetson Nano предоставляет вам доступ к тем же API и инструментам разработки программного обеспечения.

разобранный топ nvidia jetson nano 2gb

Доступный комплект для разработки ИИ

Комплект разработчика Jetson Nano 2 ГБ использует тот же модуль и соединяет его с хост-платой с физическими разъемами USB, HDMI, Ethernet и DisplayPort. Также имеется 40-контактный разъем GPIO и разъем для ленточного кабеля для последовательного интерфейса камеры. Еще в марте 2019 года NVIDIA выпустила первую версию Jetson Nano с 4 ГБ памяти за 99 долларов. Первоначальная версия хост-платы также имела порт micro USB и цилиндрический разъем в качестве двух разных вариантов источника питания.

Чтобы предоставить комплект разработчика Jetson Nano еще большему количеству студентов и разработчиков, новый Jetson Nano объемом 2 ГБ сочетает тот же SoC всего с 2 ГБ памяти, но стоит всего 59 долларов. В нем разъемы micro USB и цилиндрические разъемы заменены на один разъем USB Type-C для питания. Штыри GPIO и разъем для камеры остались, что является отличной новостью для людей, интересующихся робототехникой. Тем не менее, он убирает порт USB и разъем DisplayPort, чтобы снизить затраты.

Начать довольно просто. Комплект, который нам прислала NVIDIA, включал SoM Jetson Nano 2 ГБ, плату разработчика, блок питания USB-C и карту micro SD на 64 ГБ. Для установки операционной системы требуется загрузить образ с портала разработчиков NVIDIA. и запишите его на SD-карту с помощью инструмента для прошивки изображений, такого как balenaEtcher. После того, как изображение будет записано на SD-карту, вставьте его в устройство чтения micro SD на Nano и подключите питание, клавиатуру, мышь, Ethernet и кабель HDMI или DisplayPort. Инструменты разработки уже установлены и готовы к работе как часть процесса прошивки образа.

балена травитель
Прошивка образа на SD-карту — это простой одноэтапный процесс.

Режим бога — теперь можно приступать к созданию искусственного интеллекта

Как только дистрибутив Linux на основе Ubuntu 18.04 будет запущен и запущен, самое время приступить к изучению проектов ИИ. Для начала NVIDIA рекомендует ознакомиться с проектом логического вывода Hello AI World на GitHub. Существует множество функций и множество предварительно обученных моделей, готовых выводить данные на основе изображений, снятых модулем камеры или сохраненных в локальных файлах. В комплект, поставляемый NVIDIA, не входила камера, но мы купили модуль с датчиком Sony IMX219 и полем обзора 160 градусов примерно за 22 доллара на Amazon .

Мы клонировали этот репозиторий Jetson Inference и построил проект, используя документацию NVIDIA, что понятно любому, кто когда-либо запускал make-файл в Linux. Даже если вы не знакомы с процессом, инструкции довольно понятны для новичков. К сожалению, поскольку для компиляции Jetson Nano использует свой четырехъядерный комплекс Cortex A57, этот процесс занял около получаса. Можно встать и выпить чашку кофе, но примерно на полпути нам было предложено ввести пароль нашей учетной записи пользователя, поэтому на следующем этапе можно было установить некоторые дополнительные зависимости.

Простейшим вариантом использования этих предварительно обученных моделей ИИ является классификация изображений. Использовать его просто: перетащите кучу изображений в локальную папку, а затем включите приложение AI. Модель ИИ считывает каждое изображение, вытаскивает объекты, а затем делает все возможное, чтобы идентифицировать объект изображения. Наряду с ответом ИИ также предоставляет процентиль, показывающий, насколько он уверен, что выбрал правильный предмет. Было очень весело пытаться обмануть ИИ, заставив его анализировать «плохие» фотографии, на которых то, что мы считаем объектом, находится не в фокусе или не в центре.

Веселье с распознаванием изображений и получение правильного результата

строительный проект

Создание проекта Hello AI World на NVIDIA Jetson Nano 2 ГБ
Проект Hello AI World поставляется с собственными образцами фотографий с разрешением 1024×512, которые показывают, как различные модели ИИ могут обрабатывать изображения. Мы запустили ИИ на паре из них, чтобы убедиться, что все работает так, как ожидалось, а затем бросили вызов. На изображении ниже размытый человек бежит мимо дома с машиной на подъездной дорожке. Мы хотели посмотреть, что ИИ думает о предмете, находящемся не в фокусе. Изображение также намного больше, чем образцы с разрешением 3888×2592, или примерно в 20 раз больше пикселей. Для обработки модели требуется больше вычислительной мощности, поскольку они содержат гораздо больше деталей.

размытие 0

Когда мы запускали проект, мы в основном беспокоились о том, не будет ли падения производительности из-за того, что более новый и дешевый Jetson Nano имеет вдвое меньше оперативной памяти, чем исходная модель. К счастью, оказалось, что это не так. У NVIDIA есть ряд результатов тестов, опубликованных для исходной модели, с оценками, выраженными в кадрах в секунду и в миллисекундах. Поскольку каждый запуск проекта Hello World AI выдает метрики, показывающие, сколько времени занял процесс, было легко провести сравнение. Каждый раз Jetson Nano объемом 2 Гб просматривал изображения примерно с той же скоростью, что и оригинал. Единственный раз, когда мы когда-либо видели какое-либо предупреждение о памяти, было, когда браузер Chromium работал с парой открытых вкладок, показывающих документацию проекта. Это означает, что можно столкнуться с некоторыми проблемами накладных расходов,

Классификация изображений — это процесс определения того, что является предметом фотографии. Модель ИИ сканирует изображение и добавляет метку, показывающую, что, по ее мнению, представляет собой объект, а также процент уверенности ИИ в том, что это правильно. Различные модели используют фрагменты изображения разного размера, чтобы выяснить, что находится в каждой части, а затем уверенно (или нет) решает, какой обнаруженный объект в каждом фрагменте является субъектом. Затем выясняется в целом, что это за предмет.

результаты сегментов

После каждого запуска ИИ сообщает, сколько времени занял каждый шаг обработки.
ИИ отлично справился с образцами фотографий, но споткнулся за ворота с нашим огромным тестовым изображением пыток. Хотя обработка заняла всего около 40 миллисекунд (согласно выходным данным инструмента), он идентифицировал объект как парковочный счетчик с достоверностью только 15% в его оценке. К счастью, у каждого метода обработки есть несколько разных моделей на выбор, многие из которых требуют больше времени для запуска, но требуют больше усилий, чтобы попытаться уточнить вывод. К сожалению, мы запустили несколько из них, и все они дали до смешного неправильные результаты. Различные модели думали, что это мотороллер, автомобиль и пчела. Мы предполагаем, что на это решение повлиял желто-черный цвет рубашки бегуна.

Не растерявшись, мы двинулись дальше. Следующим «шагом» в этом процессе является идентификация объекта. Модели ИИ работают с изображением, пытаясь найти различные объекты, которые не являются частью фона. На этот раз модель помещает все объекты на фотографии в разноцветные коробки. Каждая коробка имеет свою собственную метку, которая показывает, что она думает об объекте и какой процент уверенности имеет в своем заключении. На этот раз даже самая простая модель ИИ была способна идентифицировать и бегуна, и машину на заднем плане.

вывод классификации
На этот раз модель правильно идентифицировала объекты на фото, несмотря на то, насколько размытым был бегун.

Последним является семантическая сегментация, которая представляет собой процесс для каждого пикселя, который идентифицирует различные объекты на фотографии и раскрашивает их. Изображение ниже снова является нашим образцом с различными объектами, которые, по мнению ИИ, могут быть выделены. Это проливает некоторый свет на наши предыдущие результаты, когда он думал, что объект был мотороллером или парковочным счетчиком, поскольку на самом деле он идентифицировал только автомобили как объекты фотографии. Бегун, вероятно, был объектом, идентифицированным как парковочный счетчик или мотороллер, поскольку единственные объекты, находящиеся в фокусе, которые он мог семантически обнаружить, были в фокусе.

вывод сегмента
Семантическая сегментация идентифицирует объекты для каждого пикселя.
Все это может показаться забавным или сбоем ИИ, но, возможно, вам знакома фраза «мусор на входе, мусор на выходе». Фотография может иметь художественную ценность, но она не четкая и не в фокусе, и ИИ мог полагаться только на размытое месиво, чтобы попытаться определить, что это было. То, что оно вообще вытащило человека, это, прямо скажем, удивительно. Когда объект находится в фокусе, результаты намного более четкие. Ниже приведен один из таких примеров нейронной сети классификации изображений, использующей самую быструю модель по умолчанию на более четком изображении. Хотя результаты не идеальны, мы можем, по крайней мере, увидеть, откуда они взялись.

выход 2
Возможно, из-за белых линий ИИ решил, что фото произошло на гоночной трассе.
выход 3
Темная машина справа с тонированными стеклами может и не такая длинная, как лимузин, но результат вполне объясним.
выход 4
Светофор был ближайшим объектом на этом фото

Общественные проекты искусственного интеллекта могут быть увлекательными

Как только мы убедились, что все работает как надо, поработав над проектом для начинающих Hello AI World, пришло время перейти на страницу проектов сообщества NVIDIA Jetson . Некоторые из представленных здесь проектов требуют очень мало дополнительного оборудования, например, собственный оценщик позы человека в реальном времени от NVIDIA, но имеют ограниченную полезность. Еще один полезный проект, не требующий тонны аппаратного обеспечения, — термометр с искусственным интеллектом, который использует модуль тепловизионной камеры FLIR для считывания температуры человека и отправки предупреждения, если у человека жар.

Лучший способ, который я нашел, чтобы узнать о теме или структуре разработки программного обеспечения, — это найти существующий образец, использовать его и пройтись по коду, чтобы увидеть, что происходит. Это означало, что мы выбрали один из проектов, для которого у нас было оборудование, и покопались в нем, и превращение потока с камеры в электронную музыку показалось забавным примером. Проект «DeepStream <3 OSC» был идеальным кандидатом: ему нужен только источник видео, а затем он будет преобразовывать обнаруженные объекты в звуковые частоты как своего рода интерактивная музыкальная машина. «Музыка», генерируемая системой, управляется сценарием, который берет объект и выдает музыкальную ноту. У проекта есть хорошая демонстрация на YouTube, которую можно посмотреть. Нажмите кнопку воспроизведения ниже, чтобы ощутить вкус «Матрицы » в воссозданном звуке…

Другие проекты требуют немного больше инвестиций с точки зрения оборудования, но могут быть очень интересными. Комплект робототехники JetBot выглядит как относительно недорогой способ начать работу в мире робототехники, управляемой искусственным интеллектом. Люди, у которых есть 3D-принтер, могут просто напечатать свое собственное шасси, а те, у кого его нет, могут купить один из нескольких серийно выпускаемых комплектов. Робот передвигается с помощью набора Jupyter Notebooks, которые представляют собой веб-приложения, помогающие программировать робота, в том числе манипулировать кодом в реальном времени в браузере. Это выглядит как довольно простой способ заняться робототехникой, и он должен стать хорошим проектом для семейного отдыха в холодную погоду.

комплект nvidia jetson nano 2gb

Мы хотели провести сравнительное тестирование Jetson Nano. Проблема в том, что самый большой набор тестов машинного обучения, MLbench, не поддерживает Arm64 в общедоступной версии. Когда мы попытались выполнить сборку с использованием включенных сценариев, это не удалось, потому что SSE не поддерживается, так как это функция x86. Тест также не совсем знает, что делать с ядрами CUDA. Что касается проектов, доступных в сообществе NVIDIA, все выглядело довольно быстро, хотя производительность здесь не в центре внимания. Другие более дорогие платформы Jetson более высокого класса, очевидно, быстрее, и те, кому нужна лучшая производительность, должны сосредоточиться на них. Комплект Jetson Nano 2 ГБ, с другой стороны, является хорошей платформой для разработки и тестирования начального уровня или с низким энергопотреблением.

Jetson Nano 2 ГБ Выводы

Версия NVIDIA Jetson Nano объемом 2 ГБ может справиться практически с любым проектом, что и его более дорогой брат, по цене, которую может себе позволить больше людей. При цене 59 долларов, что примерно сопоставимо с Raspberry Pi 4, Jetson Nano объемом 2 ГБ обладает достаточной вычислительной мощностью для самых разных задач машинного обучения. Вычислительная плата размера SO-DIMM достаточно мала, чтобы ее можно было потерять на захламленном столе (не спрашивайте меня, откуда я это знаю), а основная плата, прилагаемая к комплекту для разработки, только удваивает занимаемую площадь. Несмотря на миниатюрный размер, у него достаточно возможностей подключения, чтобы делать практически все, от обработки изображений ИИ в реальном времени (с дополнительной камерой) до вождения комплектов робототехники.
NVIDIA Jetson Nano 2 Гб… ЮКТЕХКОМ Амазонка $369.45
Не менее важным для любой образовательной или любительской платформы является доступность образцов и документации. NVIDIA представила это в виде примеров проектов. Сообщество Jetson также предоставило немало материалов с открытым исходным кодом для изучения. Для всех, кто хочет начать работу в мире машинного обучения, Jetson Nano 2 ГБ — отличный инструмент с большим количеством документации и примеров кода для начала работы.

Источник (англ.)

Поставить оценку
Кофебрейкер | Интернет-журнал