ONNX Runtime (legacy)

Objekt-, Gesichts- und Kennzeichenerkennung für ältere NVIDIA-Grafikkarten und für Systeme, die bei CUDA 12 bleiben. Mit dem regulären ONNX-Plugin wandert die Erkennung auf diesen Karten unbemerkt auf den Prozessor.

Was es kann

• Objekterkennung: Personen, Fahrzeuge und Tiere
• Gesichtserkennung und Gesichtswiedererkennung
• Findet Kennzeichen und liest ihren Text
• KI-Suche per Beschreibung
• Findet ähnlich aussehende Personen über mehrere Kameras hinweg (Person Re-ID, pro Kamera einschaltbar) und umreißt Personen, Fahrzeuge und Tiere (Segmentierung)

Was Sie brauchen

• Nutzen Sie es statt des regulären ONNX-Plugins, wenn Ihre NVIDIA-Karte älter als eine GTX 1650 ist: Maxwell (Serien GTX 700/900), Pascal (Serie GTX 10, Quadro P400 bis P4000, Tesla P4/P40/P100) oder Volta (Titan V, Tesla V100)
• Oder wenn Sie eine installierte CUDA 12 behalten möchten
• CUDA 12.x, cuDNN 9.x für CUDA 12 und NVIDIA-Treiber 525 oder neuer
• Linux oder Windows
• Auf einer GTX 1650 oder neuer nutzen Sie das reguläre ONNX-Plugin: Es arbeitet mit CUDA 13, unterstützt die RTX-50-Serie nativ und erhält weiterhin Fehlerbehebungen

Einstellungen

• "Execution Provider": 'auto' nutzt CUDA unter Linux und Windows (x86_64), sonst den Prozessor; mit 'tensorrt' (NVIDIA TensorRT) dauert der erste Start länger. Schlägt es fehl, übernimmt der Prozessor.
• "CUDA Device IDs": welche Grafikkarten genutzt werden, zum Beispiel "0,1"
• "CLIP Model (Images)": das KI-Suchmodell für alle Kameras. Nach einem Wechsel indexieren Sie die Aufnahmen neu.
• "Face Recognition Model": ein Modell für alle Kameras. Nach einem Wechsel werden die gespeicherten Gesichter neu verarbeitet.
• Pro Kamera: die Modelle für Objekterkennung, Gesichtserkennung und Kennzeichen. "Default" folgt dem empfohlenen Modell.