KI-Ethik, KI-Security, KI-Safety: Mensch und Maschine – Wer beschützt hier wen?

Wie jede disruptive Technologie bringen KI und insbesondere ML Nutzen und Gefahren mit sich. Die Frage "Wie sicher ist KI?" hat in Wirklichkeit mehrere Dimensionen:

1. Wie kann bzw. wird KI den Menschen schaden? (KI-Safety)
2. Wie können Böswillige KI überlisten, austricksen oder missbrauchen? (KI-Security)*
3. In welchen Fällen lässt sich KI sinnvoll zur Verteidigung einsetzen? (Defensive KI)
4. In welchen Fällen sollten wir uns auf KI-basierte oder -unterstütze Angriffe einstellen? (Offensive KI)

* Zu diesem Punkt siehe auch den Vortrag "Security-Schwachstellen im Machine Learning" von Daniel Etzold am Mittwoch.

Der Vortrag versucht, neben vielen Beispielen vor allem eine Systematisierung der unterschiedlichen Sichtweisen zu geben und daraus die entscheidenden Kategorien und Fragen zu destillieren, die sich alle stellen sollten, die KI erforschen oder nutzen wollen bzw. müssen.

Vorkenntnisse

* Kenntnisse in KI bzw. Machine Learning und deren Anwendungsfeldern werden benötigt.
* Nützlich, aber nicht zwingend erforderlich sind Grundkenntnisse der Fragestellungen von Security.
* Als Vorbereitung kann der Vortrag von Daniel Etzold am Dienstag genutzt werden.

 

Speaker

 


David Fuhr ist IT-Sicherheitsberater und Head of Research bei der HiSolutions AG in Berlin. Seine Spezialgebiete sind Cloud & ICS Security, kritische Infrastrukturen, Data Analytics sowie ML bzw. AI Security.

Gold-Sponsor

Novatec

Silber-Sponsoren

ETECTURE
inovex
inovex
HO Computer
Intel
Phytec

Bronze-Sponsoren

M3-Newsletter

Sie möchten über die Minds Mastering Machines
auf dem Laufenden gehalten werden?

 

Anmelden