Vielen Dank an alle Beteiligten für eine erfolgreiche M3 2024 in Köln! Im Herbst geht es weiter mit M3-Online-Events!

Security-Schwachstellen im Machine Learning

Machine Learning hat sich in den letzten Jahren zu einer vielversprechenden Technologie entwickelt, die in immer mehr Produkten zu finden ist. Es ist davon auszugehen, dass dieser Trend bestehen bleibt und sich in den nächsten Jahren sogar noch verstärken wird. Auch in sicherheitsrelevanten und lebenskritischen Anwendungen wird Machine Learning zunehmend eingesetzt, und das, obwohl noch immer nicht sehr viel über die Sicherheit dieser Systeme bekannt ist und regelmäßig neue Angriffe veröffentlicht werden.

In diesem Vortrag werden unter anderem Beispiele gezeigt, wie sich Spamfilter (basierend auf Naive Bayes) und Bilderkennungssysteme (Convolutional Neural Networks) austricksen lassen, wie Angreifer Hintertüren in Modelle integrieren können und dass sich sensible Daten aus Modellen zur Erzeugung von Texten extrahieren lassen.

Vorkenntnisse

Grundlagen in Machine Learning sind von Vorteil, aber nicht unbedingt notwendig.

Lernziele

Aktuell beschäftigen sich viele primär mit der Frage, wie Machine Learning verbessert und in Produkte integriert werden kann, und übersehen dabei häufig andere Dimensionen. Ziel ist es, das Publikum bzgl. möglicher Schwachstellen in Machine-Learning-Verfahren zu sensibilisieren, damit potenzielle Risiken beim Einsatz von Machine Learning berücksichtigt werden können.

Speaker

 

Daniel Etzold
Daniel Etzold ist IT Security-Architekt bei der 1&1 Mail & Media Development & Technology GmbH und ist dort mitverantwortlich für den Secure Software Development Lifecycle. Er führt Bedrohungsanalysen, Reviews und Penetrationstests durch und berät Entwickler, Produktmanager und Führungskräfte in Sicherheitsfragen. Er beschäftigt sich auch mit der Frage welche Risiken und Sicherheitsprobleme durch den Einsatz von Machine Learning entstehen können und wie Machine Learning die Sicherheit von Softwaresystemen erhöhen kann.

Gold-Sponsoren

adesso
APARAVI
HUK COBURG
TNG

Silber-Sponsor

HMS Analytical Software

M3-Newsletter

Ihr möchtet über die Minds Mastering Machines
auf dem Laufenden gehalten werden?

 

Anmelden