Vom Prototyping zur Produktion – Portabilität für Deep-Learning-Modelle

Für Deep Learning gibt es mit TensorFlow und PyTorch attraktive Frameworks – zur Modellierung und zum Prototyping, aber auch zur Skalierung und Produktivierung. Darf es dabei nur ein Framework sein? Oder haben wir vielmehr die Flexibilität, produktiv mehrere Frameworks einzusetzen? Und wie kommt man überhaupt von Daten und anfänglichen Modellideen schnell und flexibel zum Deployment?

In meinem Vortrag demonstriere ich die Kombination von PyTorch und TensorFlow. Anhand des ONNX-Formats (Open Neural Network eXchange) und GraphPipe, zweier Open-Source-Techniken, demonstriere ich die Portabilität sowie das Deployment von Deep-Learning-Modellen in der Praxis.

Vorkenntnisse

* Grundkenntnisse von künstlichen neuronalen Netzen (Komponenten, Training, Evaluation)
* Erste Anwendungserfahrung mit Deep-Learning-Frameworks
* Grundverständnis der Client-Server-Kommunikation

Lernziele

* Befähigung, schnell und einfach Prototypen zu testen und zu skalieren
* Motivation, ONNX und GraphPipe kennenzulernen und zu nutzen