Beschleunigt die Deep-Learning-Inferenz um das Fünffache im Vergleich zu TensorFlow auf NVIDIA-GPUs
MathWorks hat angekündigt, dass MATLAB jetzt die Integration mit NVIDIA TensorRT über GPU Coder anbietet. Dies hilft Ingenieuren und Wissenschaftlern, neue KI- und Deep-Learning-Modelle in MATLAB mit der Leistung und Effizienz zu entwickeln, die erforderlich ist, um die wachsenden Anforderungen von Rechenzentren, eingebetteten Anwendungen und Automobilanwendungen zu erfüllen. MATLAB bietet einen umfassenden Workflow zum schnellen Trainieren, Validieren und Bereitstellen von Deep-Learning-Modellen. Ingenieure können GPU-Ressourcen ohne zusätzliche Programmierung nutzen, sodass sie sich auf ihre Anwendungen konzentrieren können, anstatt die Leistung zu optimieren. Die neue NVIDIA TensorRT-Integration mit GPU Coder ermöglicht es, in MATLAB entwickelte Deep-Learning-Modelle auf NVIDIA-GPUs mit hoher Leistung und geringer Latenz auszuführen.
Interne Benchmark-Tests zeigen, dass MATLAB-generierter CUDA-Code in Kombination mit TensorRT Alexnet mit 5-mal besserer Leistung als TensorFlow und VGG-16 mit 1,25-mal besserer Leistung als TensorFlow für Deep-Learning-Inferenz bereitstellen kann. „Sich schnell entwickelnde Bildgebungs-, Sprach-, Sensor- und IoT-Technologien drängen Teams dazu, KI-Lösungen mit höherer Leistung und Effizienz zu erforschen. Darüber hinaus werden Deep-Learning-Modelle immer komplexer. All dies setzt Ingenieure unter enormen Druck“, sagt David Rich, Direktor bei MathWorks. „Jetzt können Teams, die Deep-Learning-Modelle mit MATLAB und NVIDIA-GPUs trainieren, Echtzeit-Inferenz in jeder Umgebung bereitstellen, von der Cloud über das Rechenzentrum bis hin zu eingebetteten Edge-Geräten.“ Weitere Informationen zu MATLAB für Deep Learning finden Sie unter: mathworks.com/solutions/deeplearning.html.
