DEKRA™ AI Security Professional (AISP) [DE]

Teilnehmer:innen führen Red Teaming gegen LLMs, Agenten und RAG-Systeme durch, inklusive Prompt Injection, Jailbreaks und Adversarial Attacks mit Einordnung über MITRE ATLAS. Auf der Defensivseite setzen sie OWASP Top 10 für LLMs um, etablieren Kontrollen über den gesamten KI-Lebenszyklus sowie Logging, Monitoring, Incident Response, Threat Modelling und Trustworthy AI.

Der Kurs DEKRA™ AI Security Professional (AISP) vermittelt praxisnahes Wissen zur Sicherheit von KI-Anwendungen, mit einem Schwerpunkt auf offensiven und defensiven Maßnahmen. Im offensiven Teil lernen die Teilnehmer, wie KI-Systeme gezielt getestet und Schwachstellen aufgedeckt werden. Dazu gehören Red Teaming-Methoden, Angriffe auf Large Language Models, KI-Agenten, Vektordatenbanken und Retrieval-Augmented-Generation-Systeme sowie datenbezogene Manipulationen und Evasion-Angriffe. Praktische Techniken wie Prompt Injection, Jailbreaks und Adversarial Attacks werden ebenso behandelt wie die Nutzung des MITRE ATLAS Frameworks zur Klassifikation und Planung von Angriffen.

Im defensiven Teil werden umfassende Strategien vermittelt, um KI-Systeme über den gesamten Lebenszyklus abzusichern. Dazu gehören die Umsetzung der OWASP Top 10 für LLMs und Agentic AI, die Implementierung von Sicherheitskontrollen auf Daten-, Modell- und Pipeline-Ebene, Logging und Monitoring sowie die Entwicklung effektiver Incident-Response-Prozesse. Ergänzend werden organisatorische Maßnahmen, Threat Modelling und Prinzipien von Trustworthy AI behandelt, um systematisch Risiken zu reduzieren und die Resilienz von KI-Anwendungen zu erhöhen.

Der Kurs verbindet praxisorientierte Angriffs- und Verteidigungsstrategien, sodass die Teilnehmer ein tiefes Verständnis für die Bedrohungslandschaft moderner KI-Systeme entwickeln und diese gezielt absichern und/oder angreifen zu können.

Der Kurs schließt nach bestandender Prüfung mit einer DEKRA™-Zertifizierung ab.

Inhalt

• Grundlagen & Rahmenbedingungen
  • KI & ML Grundlagen
  • AI Act und regulatorische Anforderungen
  • Risk Management für KI-Systeme
• Offensive Security für KI
  • Einführung in AI Red Teaming
  • Angriffe auf KI-Modelle, Daten & Pipelines
  • Angriffe auf Vektordatenbanken und RAG-Systeme
  • LLM-spezifische Angriffstechniken (Prompt Injection, Jailbreaks etc.)
  • Angriffe auf KI-Agenten
  • Evasion-/Adversarial-Angriffe
  • MITRE ATLAS (offensive Perspektive)
• Defensive KI-Sicherheit (AI Application Security)
  • Grundlagen der KI-spezifischen Anwendungssicherheit
  • OWASP Top 10 für LLM und Agentic AI / MLSecOps
  • Security Controls über den gesamten KI-Lebenszyklus
  • Organisatorische & Governance-Maßnahmen
  • Trustworthy AI
• Sicherheitsmethoden & Betrieb
  • Threat Modelling für KI-Systeme
  • Logging & Monitoring
  • Incident Response für KI
• Prüfungsvorbereitung

Ziel

• Grundverständnis für KI und ML entwickeln
  • Kenntnisse über Funktionsweise, Modelle und typische Einsatzszenarien
  • Verständnis für Chancen und Risiken von KI-Systemen
• Offensive Security-Kompetenzen aufbauen
  • Angriffsflächen von KI-Anwendungen, LLMs, Agenten und RAG-Systemen erkennen
  • Praktische Angriffsstrategien verstehen (Red Teaming, Adversarial Attacks, Evasion)
  • MITRE ATLAS zur Klassifikation von Angriffen anwenden
• Defensive Security-Fähigkeiten entwickeln
  • Sicherheitskontrollen über den gesamten KI-Lebenszyklus implementieren
  • OWASP Top 10 LLM & Agentic AI verstehen und anwenden
  • Logging, Monitoring und Incident Response für KI-Systeme aufbauen
• Trustworthy AI und organisatorische Maßnahmen etablieren
  • Prinzipien vertrauenswürdiger KI in Organisationen verankern
  • Governance, Richtlinien und Prozesse zur KI-Sicherheit implementieren
• Praxisorientiertes Threat Modelling anwenden
  • Bedrohungen für KI-Systeme analysieren und priorisieren
  • Defensive Maßnahmen systematisch ableiten

Dauer

5 Tage

Zertifikatsprüfung

Die optionale Zertifikatsprüfung der DEKRA™ ist nicht im Kurspreis enthalten und kann separat zum Preis von 355,00 € zzgl. MwSt. gebucht werden.

Zielgruppe

• IT- und Cybersecurity-Fachkräfte
  • Security Engineers, Analysten und Penetration Tester
  • Verantwortliche für IT- und Applikationssicherheit
• KI- und ML-Verantwortliche
  • Data Scientists, ML Engineers, AI Architects
  • Verantwortliche für KI-Entwicklung und Betrieb
• Führungskräfte im Bereich IT, Security & AI
  • Chief Information Security Officers (CISO)
  • Chief Data / AI Officers
• Entwickler und DevOps / MLOps Teams
  • Entwickler, die KI-Systeme implementieren und betreiben
  • Teams für DevSecOps / MLSecOps

Voraussetzungen

• Besuch des Seminars AI Technology Implementer oder vergleichbare Vorkenntnisse in der Entwicklung oder Implementierung von KI-Anwendungen.

Dieses Seminar wird von unserem Trainingspartner qSkills durchgeführt.