ArmSoM
← Alle Geschichten

Kamera, NPU und UI zusammen: Testen einer kompletten Edge AI Pipeline

Eine KI-Demo wird zum Produkt, wenn Erfassung, Inferenz, Speicherung, Vernetzung und Wiederherstellung zusammenarbeiten. Das Testen jeder Komponente allein kann das Warteschlangenwachstum, den Gedächtnisdruck oder verlorene Frames verpassen. Führen Sie die kombinierte Arbeitslast aus, der das Gerät nach dem Einsatz ausgesetzt ist.

ArmSoM AIM7

ArmSoM AIM7

Folgen Sie Daten von Input zu Ergebnis

Markieren Sie jede Phase der Pipeline und notieren Sie die Größe und Verarbeitungszeit der Warteschlange. Prüfen Sie, ob ein langsamer Verbraucher Frames oder Anfragen zur Akkumulation veranlasst. Definieren Sie, was die Anwendung beim Überladen abgibt, wiederholt oder aufzeichnet. Wiederholen Sie den Lauf mit aktivierten Protokollierungs- und anderen Hintergrunddiensten.

Realistischer Streit hinzufügen

Führen Sie auf Sige7 oder AIM7 die beabsichtigten Anzeige-, Aufzeichnungs- und Netzwerkaufgaben neben der Inferenz aus. Beobachten Sie CPU-Nutzung, Speicherdruck, Speicherschreibvorgänge und Temperatur. Testkamera wieder angeschlossen und temporäre Ausgabeausfälle. Medien und NPU Beschleunigung reduzieren einige CPU Arbeit, aber Pufferhandling und Anwendungscode bleiben Teil des Systems.

Festlegung von Akzeptanzkriterien um Entscheidungen herum

Messen Sie die Zeit von der Szene Eingabe auf die Aktion oder sichtbares Ergebnis, das wichtig ist. Zählen Sie fehlende Frames und falsche Entscheidungen sowie die Durchschnittsgeschwindigkeit. Behalten Sie eine bekannte Eingabesequenz für die Regression nach Treiber- oder Modelländerungen. Melden Sie die getestete Auflösung, die Anzahl der Ströme, das Modell und die Kühlung, damit ein anderer Ingenieur das Ergebnis verstehen kann.

ArmSoM Sige7

ArmSoM Sige7

Passen Sie die Wahl an Ihre Anforderungen an

Anforderung oder Situation

Was zu bewerten ist

Einzelheiten der Entscheidung

Frische

Latenz zwischen Erfassung und Ausgabe

Beobachten Sie das Warteschlangenwachstum.

Zeitgleichheit

Kamera, UI, Speicher und Netzwerk

Laufen Sie zusammen.

Wiedereinziehung

Trennen und Neustarten von Diensten

Automatische Wiederaufnahme überprüfen.

Beispielhafte Gestaltung

Verfolgen Sie einen Frame von der Ankunft bis zur Entscheidung

Weisen Sie Zeitstempel bei der Akquisition, Vorverarbeitung, Inferenz und Ergebnislieferung zu. Dies macht das Warteschlangenwachstum sichtbar, wenn Speicher oder Netzwerk mit Inferenz konkurrieren. Entscheiden Sie, ob die Anwendung alte Frames ablegen oder jeden Frame verarbeiten soll, da diese Richtlinien unter Last unterschiedliches Verhalten erzeugen. Ein Echtzeit-Entscheidungssystem schätzt eine aktuelle Antwort oft mehr als einen vollständigen Rückstand an veralteten Antworten. Testen Sie die gewählte Richtlinie unter den langsamsten erwarteten Eingabe- und Ausgabebedingungen.

Hardware und Dokumentation

Sige7 · RK3588

RK3588, 6 TOPS NPU, dual 2.5GbE und M.2 PCIe 3.0 x4. Überprüfen Sie die ausgewählte eMMC und die drahtlose Konfiguration.

Hardware-Dokumentation · Produktdetails

AIM7 · RK3588

RK3588-Modul mit einem 6 TOPS NPU und 260-pin SO-DIMM-Anschluss. ArmSoM hat einen Jetson Nano B01-Träger getestet; Dies stellt keine Kompatibilität mit allen Jetson-Carriern oder NVIDIA-Software her.

Hardware-Dokumentation · Produktdetails

Häufig gestellte Fragen

Kann ich Kamera-FPS und Inferenz-FPS hinzufügen, um die Systemgeschwindigkeit zu beschreiben?

Nein. Sie messen verschiedene Stadien. Der End-to-End-Durchsatz wird durch die Pipeline und ihre Pufferpolitik eingeschränkt.

Produktinformationen und Support

Sige7 entdecken

ArmSoM kontaktieren

Quellen

Geschrieben von ArmSoM mit der folgenden Dokumentation. Beispieldesigns sind Vorschläge, keine gemessenen Kundeninstallationen.

Verwandtes Lesen