ArmSoM
← Все истории

Камера, NPU и пользовательский интерфейс вместе: тестирование полного конвейера Edge AI

Демо-версия ИИ становится продуктом, когда сбор, вывод, хранение, работа в сети и восстановление работают вместе. Тестирование каждого компонента в отдельности может привести к упущению роста очереди, нехватки памяти или потери кадров. Запустите объединенную рабочую нагрузку, с которой столкнется устройство после развертывания.

ArmSoM AIM7

ArmSoM AIM7

Следуйте данным от ввода до результата

Отметьте каждый этап конвейера и запишите размер его очереди и время обработки. Проверьте, не приводит ли медленный потребитель к накоплению кадров или запросов. Определите, что приложение удаляет, повторяет или записывает при перегрузке. Повторите запуск с включенным ведением журнала и другими фоновыми службами.

Добавьте реалистичную конкуренцию

На Sige7 или AIM7 запустите намеченные задачи отображения, записи и работы в сети вместе с логическим выводом. Наблюдайте за использованием CPU, нехваткой памяти, записью в хранилище и температурой. Тестовая камера переподключается и временные сбои вывода. Медиа-ускорение и NPU сокращают часть работы CPU, но обработка буфера и код приложения остаются частью системы.

Установите критерии принятия решений

Измерьте время от начала сцены до действия или видимого результата, который имеет значение. Подсчитайте пропущенные кадры и неправильные решения, а также среднюю скорость. Сохраняйте известную входную последовательность для регрессии после изменений драйвера или модели. Сообщите протестированное разрешение, количество потоков, модель и охлаждение, чтобы другой инженер мог понять результат.

ArmSoM Sige7

ArmSoM Sige7

Сопоставьте выбор с вашими требованиями

Требование или ситуация

Что оценить

Детали решения

Свежесть

Задержка между захватом и выводом

Следите за ростом очереди.

Параллелизм

Камера, пользовательский интерфейс, хранилище и сеть

Бежим вместе.

Восстановление

Отключается и перезапускает службу.

Проверьте автоматическое возобновление.

Пример дизайна

Проследите один кадр от прибытия до решения.

Назначайте временные метки при сборе данных, предварительной обработке, выводе и доставке результатов. Это делает рост очереди видимым, когда хранилище или сеть конкурируют с логическим выводом. Решите, должно ли приложение удалять старые кадры или обрабатывать каждый кадр, поскольку эти политики ведут себя по-разному под нагрузкой. Система принятия решений в реальном времени часто ценит недавний ответ больше, чем полный список устаревших ответов. Протестируйте выбранную политику в условиях самых медленных ожидаемых входных и выходных данных.

Аппаратура и документация

Sige7 · RK3588

RK3588, 6 TOPS NPU, двойной 2.5GbE и M.2 PCIe 3.0 x4. Проверьте выбранный eMMC и конфигурацию беспроводной сети.

Документация по оборудованию · Описание товара

AIM7 · RK3588

Модуль RK3588 с разъемом 6 TOPS NPU и 260-pin SO-DIMM. ArmSoM протестировал носитель Jetson Nano B01; это не обеспечивает совместимость со всеми операторами связи Jetson или программным обеспечением NVIDIA.

Документация по оборудованию · Описание товара

Часто задаваемые вопросы

Могу ли я добавить FPS камеры и вычисление FPS для описания скорости системы?

Нет. Они измеряют разные стадии. Сквозная пропускная способность ограничена конвейером и его политикой буферизации.

Информация о продукте и поддержка

Подробнее о Sige7

Связаться с ArmSoM

Источники

Написано ArmSoM с использованием документации ниже. Примеры проектов — это предложения, а не измеренные установки клиентов.

Похожие материалы