Test 2: Anforderungsbasierte Verarbeitung
In diesem Szenario wird das System in einem typischen industriellen Anwendungsfall getestet. Es empfängt die Daten über die Netzwerkschnittstelle (C++). Ziel ist es, die Daten mit der geringstmöglichen Latenz zu verarbeiten (Deep Learning-basierte Objekterkennung und -klassifizierung mit 1.024×1.024 Pixel). Um Energie zu sparen, wird selbst im Power-Modus MAXN der Takt für CPU und GPU bei geringer Last gedrosselt. Dadurch haben die ersten Bilder eine bis zu dreimal höhere Latenz, als die nachfolgenden Bilder. Während in den meisten Anwendungsfällen die Energiesparfunktionen unproblematisch sind, ist dies für die zeitkritische Verarbeitung kein erwünschtes Verhalten. Die Lösung ist einen benutzerdefinierten Energiesparmodus zu erstellen, der den GPU- und CPU-Takt auf ihre maximale Frequenz begrenzt.
Testergebnisse (Tab. 2): Da das System zwischen der Verarbeitung der einzelnen Bilder Ruhephasen hat, wirkt sich die dauerhaft hohe Taktfrequenz von CPU und GPU nicht merklich auf die Temperatur aus. Die Ausführungszeit beträgt etwa das 1,75-fache der Zeit, die ein auf Intel basierender IPC in Kombination mit einer Nvidia RTX 2080Ti-GPU erreichen kann. Vergleicht man die technischen Daten beider Systeme, so verfügt der IPC im Vergleich zum MIC-730AI über etwa das achtfache an Ressourcen. Die Tatsache, dass der achtfache Vorteil bei den verfügbaren Ressourcen nur den 1,75-fachen Vorteil bei der tatsächlichen Verarbeitung ergibt deutet darauf hin, dass die Latenz hauptsächlich mit dem Speicherdurchsatz zusammenhängt. Im Vergleich zum IPC hat der MIC-730AI jedoch nur 5 bis 10% des Stromverbrauchs, keine beweglichen Teile und im Allgemeinen weit weniger Komponenten. Daher sind für den MIC-730AI geringere Wartungskosten zu erwarten.
Fazit
Der MIC-730AI bietet eine hohe Leistung für eine Vielzahl von KI- und klassischen Anwendungen. Geringer Stromverbrauch in Kombination mit passiver Kühlung ermöglichen den Einsatz in industriellen Umgebungen in der unmittelbarer Nähe von Maschinen oder in Fahrzeugen. Das System kann ohne große Anpassungen verwendet werden und ermöglicht kurze Bereitstellungszyklen von KI-Anwendungen.
* Die Hardware wurde von Advantech zur Verfügung gestellt. Die Evotegra GmbH wurde für den Test nicht bezahlt.
