ArmSoM
← Все истории

RK3588 против Raspberry Pi 5 для ИИ: встроенный NPU или внешний ускоритель?

Для сравнения RK3588 с Raspberry Pi 5 для ИИ требуется настройка именованного вывода. RK3588 имеет встроенный NPU; Pi 5 может запускать модель на своем CPU или подключенном ускорителе. Точность модели и полное время отклика обеспечивают полезную общую основу.

ArmSoM Sige7

ArmSoM Sige7

Raspberry Pi 5

Raspberry Pi 5 Фото: Raspberry Pi

Изображения идентифицируют платы и не соответствуют физическому масштабу. Изображенные конфигурации и прилагаемые аксессуары могут отличаться.

Сравните одну и ту же задачу и входные данные.

Используйте тот же набор данных, входные размеры и критерий точности. Запишите формат модели и числовую точность на каждой платформе, включая любые изменения, необходимые для преобразования. Измерьте захват и предварительную обработку, а также вывод. Если в одной установке используется дополнительный ускоритель, включите его в описание оборудования, мощности и стоимости.

Внешний маршрут меняет планы расширения.

Raspberry Pi 5 имеет внешний интерфейс PCIe, который можно использовать через соответствующее оборудование. Ускоритель занимает физическое пространство, потребляет энергию и может конкурировать с другими требованиями расширения. Собственный инструментарий модели может хорошо подойти для существующего приложения. Сохраняйте эту платформу, если ее проверенная модель и экосистема обслуживания перевешивают выгоду от замены плат.

Выберите с репрезентативной рабочей нагрузкой

Используйте те же входные данные и требования к точности. Включите захват камеры, изменение размера, вывод, логику принятия решений и вывод. Измерьте задержку, нагрузку CPU и мощность системы при длительной работе. Более высокий арифметический рейтинг не гарантирует меньшее время отклика, если учитывать накладные расходы на преобразование и неподдерживаемые операции.

ArmSoM AIM7

ArmSoM AIM7

Сопоставьте выбор с вашими требованиями

Требование или ситуация

Что оценить

Детали решения

RK3588 NPU

Встроенный ускоритель

Проверьте преобразование RKNN и среду выполнения хоста.

Pi 5 плюс ускоритель

Отдельное оборудование и набор инструментов.

Учет расширения, мощности и поддержки моделей.

Базовый уровень только для CPU

Более простой стартовый путь

Измерьте перед добавлением ускорения.

Пример дизайна

Сравните системы искусственного интеллекта, которые вы бы купили.

В одной конфигурации может использоваться встроенный Sige7 NPU; другой может использовать Raspberry Pi 5 с именованным внешним ускорителем. Во вторую конфигурацию включите интерфейс ускорителя, питание, охлаждение и время работы. Подайте одинаковые входные данные обоим и сравните полезные решения с приемлемой точностью. Это позволяет оценить систему, которую будет использовать клиент, а не сравнивать пиковую арифметическую цифру с несвязанным показателем CPU.

Аппаратура и документация

Sige7 · RK3588

RK3588, 6 TOPS NPU, двойной 2.5GbE и M.2 PCIe 3.0 x4. Проверьте выбранный eMMC и конфигурацию беспроводной сети.

Документация по оборудованию · Описание товара

AIM7 · RK3588

Модуль RK3588 с разъемом 6 TOPS NPU и 260-pin SO-DIMM. ArmSoM протестировал носитель Jetson Nano B01; это не обеспечивает совместимость со всеми операторами связи Jetson или программным обеспечением NVIDIA.

Документация по оборудованию · Описание товара

Часто задаваемые вопросы

Достаточно ли 6 TOPS, чтобы выбрать более быструю систему?

Нет. Архитектура модели, точность, время выполнения и полный конвейер приложений определяют практические результаты.

Информация о продукте и поддержка

Подробнее о Sige7

Связаться с ArmSoM

Источники

Написано ArmSoM с использованием документации ниже. Примеры проектов — это предложения, а не измеренные установки клиентов.

Похожие материалы