Wartungsfalle GenAI? Herausforderungen und Lösungsansätze
Generative KI erscheint auf den ersten Blick als schnelle Möglichkeit, komplexe Probleme zu lösen, auch weil ein guter Prompt schnell geschrieben ist.Beim Einsatz in Softwaresystemen mit hohen Qualitätsanforderungen stößt man jedoch schnell an Grenzen: Selbst kleine Änderungen an einem Prompt können unvorhersehbare Auswirkungen auf die Ergebnisse haben. Das erschwert zentrale DevOps-Praktiken wie Testbarkeit, Continuous Integration und Continuous Delivery (CI/CD).
In diesem Praxisbericht beleuchten wir die Herausforderungen und geben Einblicke, wie bekannte Architekturmuster aus dem Microservices-Umfeld und DevOps-Prozesse angepasst werden können, um nicht in der Wartungsfalle GenAI zu landen. Dabei sprechen wir unter anderem über Ansätze wie Observability, "Dark Launches", A/B-Tests und LLM-as-a-Judge.
Vorkenntnisse
Grundlegendes Verständnis von generativer KI, insbesondere zur Texterzeugung und -verarbeitung.
Lernziele
Strategien und Lösungsmöglichkeiten für typische Probleme beim produktiven Einsatz generativer KI kennenlernen.
Speaker
Mirko Böttcher studierte Informatik in Magdeburg, promovierte im Maschinellen Lernen und arbeitete in diversen Branchen als Entwickler, Architekt und Projektleiter für ML-Projekte. Seit 2017 steuert er als KI-Architekt bei der Techniker Krankenkasse die Einführung und Etablierung von KI-Entwicklung – von der Ideenfindung bis hin zur Produktivsetzung.
Oliver Zeigermann ist Softwareentwickler aus Hamburg. Er entwickelt seit über 35 Jahren Software mit unterschiedlichen Ansätzen und Programmiersprachen. In letzter Zeit hat er sich vor allem mit Machine Learning und dessen Kommunikation mit dem Menschen beschäftigt. Oliver arbeitet bei der Techniker Krankenkasse als Machine Learning Engineer.
M3-Newsletter
Du möchtest über die Minds Mastering Machines
auf dem Laufenden gehalten werden?