Threat Modeling für KI-Anwendungen
Mit zunehmender Adaption von KI in der Praxis kommt der Sicherheit eine besondere Bedeutung zu. Die Komplexität von solchen Systemen, die Konzentration von relevanten Daten und die noch geringen praktischen Erfahrungen sorgen für hohe Anreize für potenzielle Angreifer. Ein sicheres Design bedarf deshalb eines systematischen Vorgehens, um alle Facetten des Themas abzudecken.In diesem Vortrag stellen wir unsere Adaption der etablierten Methode Threat Modelling für KI-Anwendungen vor: Ausgehend vom bekannten "Four Question Framework" wird der Fokus auf die KI-Komponenten, ihre Besonderheiten und deren Bedrohungssituation gelegt und auch die Umsetzung im Entwicklungsprojekt behandelt.
Vorkenntnisse
Grundlegendes Verständnis zur Entwicklung von ML-Modellen und KI-Systemen
Lernziele
Die Teilnehmenden lernen die Methode Threat Modelling kennen und wie Sie diese in der Praxis einsetzen: Von der Identifikation der schützenswerten Assets über die Aufstellung der Bedrohungsszenarien bis hin zur Ableitung von effizienten Gegenmaßnahmen stellen wir das Vorgehen anhand praktischer Use Cases dar.
Speaker
Clemens Hübner studierte Mathematik und Informatik und schloss mit einer Masterarbeit zur Sicherheit in agilen Entwicklungsmodellen ab. Nach Tätigkeiten als Software Developer sowie im Penetration Testing ist er seit 2018 als Security Engineer bei inovex. Dort begleitet er heute Projekte auf Konzeptions- und Implementierungsebene, schult Kolleg:innen und berät zu Security im Entwicklungsprozesse.
Phuong Mai Mai studierte Informatik mit Schwerpunkt Machine Learning an der Technischen Universität München. Seit 2020 ist sie Machine Learning Engineer bei inovex und berät Kunden bei der Entwicklung datenbasierter Produkte und KI-Lösungen. Dabei legt sie großen Wert auf eine verantwortungsvolle und transparente Softwareentwicklung.
M3-Newsletter
Du möchtest über die Minds Mastering Machines
auf dem Laufenden gehalten werden?