You build it, you run it! Gängige Herausforderungen und Lehren aus der CI/CD-Praxis für ML-Anwendungen

Die Integration eines ML-Modells in eine Produktionsumgebung kann mit einer Vielzahl von Herausforderungen verbunden sein. Noch sind viele Anwender sind nicht damit vertraut, wie man automatisierte Feedback-Schleifen integriert, die bei jedem Commit signalisieren, ob die Software zuverlässig funktioniert.

Dieser Vortrag vermittelt die Sicht eines Praktikers auf die Verbesserung von CI/CD-Pipelines für ML-Anwendungen. Zunächst leitet eine Studie aus den auf dem Markt verfügbaren Tools und den in Fallstudien praktizierten Prozessen Muster ab, wie eine CI/CD-Pipeline für ML-Modelle gestaltet sein sollte. Anschließend werden die Erkenntnisse zu gängigen Herausforderungen und Lehren in zwei separaten Kategorien, nämlich Pre- und Post-Release, dargestellt.

Vorkenntnisse

Dieser Vortrag ist geeignet für

• ML-Engineers, die verstehen oder ihr Wissen darüber auffrischen möchten, wie sie die Zuverlässigkeit und Qualität ihrer ML-Anwendungen verbessern können,
  
• Software Engineers, die die ML-Konzepte verstehen möchten, die für effektives Testen und die Überwachung in der Produktion notwendig sind und
  
• Teamleiter, die ihr Wissen über die technischen Aspekte von Business-Anwendungen vertiefen und besser verstehen möchten, wie Organisationen ihre CI/CD-Praktiken verbessern können.

Lernziele

"You build it, you run it!" hat den Ton für DevOps angegeben und die Verantwortung für den Code an seine Bereitstellung gebunden. Inspiriert von reibungslosen Deployments, erweitert CI/CD diesen Anspruch und fordert, mit jedem Commit eine releasefähige Software zu produzieren. Für einen Softwareentwickler ist klar, was auf dem Spiel steht: Wenn der Code nicht funktioniert, muss man ihn reparieren. Was bedeutet das für ML-Praktiker, z. B. Data Scientists oder ML-Ingenieure, die ihre neuesten Forschungsfortschritte zuverlässig in Produktionssystemen abgebildet sehen wollen? Und was sind die organisatorischen Auswirkungen für alle Manager, die eine 100 %-ige Verfügbarkeit, höchste Qualitätsstandards und eine schnelle Umsetzung bei der Entwicklung neuer Funktionen oder der Lösung von Problemen verlangen?