Trust me, I'm AI? – Warum Guardrails Pflicht sind, nicht Kür!

Generative KI (GenAI) entfaltet großes Potenzial in produktiven Anwendungen, bringt jedoch auch erhebliche Herausforderungen im Hinblick auf Sicherheit, Zuverlässigkeit und ethische Verantwortung mit sich.

Um diesen Herausforderungen zu begegnen, sind Guardrails – gezielte Steuerungs- und Begrenzungsmechanismen – unverzichtbar. Sie sorgen dafür, dass KI-Systeme innerhalb definierter Grenzen agieren, Fehlinformationen vermeiden, Nutzungsrichtlinien einhalten und eine gleichbleibend hohe Qualität liefern.

In diesem Vortrag werden verschiedene Arten von Guardrails systematisch vorgestellt, darunter Ein- und Ausgabe-Validierungen sowie Inhaltsmoderationsstrategien und deren Monitoring.

Vorkenntnisse

Grundlegende Erfahrung mit generativer KI wie bspw. RAG sind vom Vorteil, aber kein Muss.

Lernziele

• Sensibilisierung bzgl. der Qualitätssicherung von GenAI-Anwendungen
  
• Grundlegende Konzepte von Guarding verstehen
  
• Guardrails für den eigenen Anwendungsfall selektieren