Jailbreaking LLMs: Angriffe auf Regeleinstellungen und Promptfilter
ChatBots und KI-Agenten werden über Regelwerke und Promptfilter-Einstellungen vor unethischen oder illegalen Handlungsaufträgen geschützt. Doch diese Schutzmaßnahmen lassen sich angreifen und mit technischen Kenntnissen aushebeln.Für Entwickler und KI-Betreiber ist es wichtig, die Angriffsszenarien zu kennen, um passende Schutzkonzepte aufbauen zu können. Dieser Vortrag gibt einen Einblick in Angriffsvektoren auf LLMs und welche Schutzmaßnahmen zur Abwehr von Angriffen notwendig sind.
Speaker
Mirko Ross gestaltet als Gründer und CEO von asvin.io aktiv die Zukunft der Cybersicherheit. Als Jugendlicher noch ein Hacker, vermittelt er heute seine Erfahrung und Wissen zum Schutz von Unternehmen, Staat und Gesellschaft vor Cyberangriffen.
Seine Expertise hat ihn bis in Beratungsgremien der EU-Kommission, Bund (BMBF) und Wirtschaft (BDI) geführt. Unternehmen und Institutionen profitieren von seinem tiefen Verständnis für Bedrohungslagen und Lösungen im Bereich Cybersicherheit, Künstliche Intelligenz (KI) und einer digitalen resilienten Gesellschaft