Kurs · Schulung · Workshop
Agentic Red Teaming
Zwei Tage hands-on: GenAI-gestützte Angriffe auf klassische Systeme nachstellen, eigene Agents prüfen und belastbare Findings für die Verteidigung liefern.
Generative künstliche Intelligenz (GenAI) und Agents auf Basis von Large Language Models (LLMs) können Recherche, die Analyse von Schwachstellen und die Planung von Angriffspfaden unterstützen. Für Red Teams stellt sich damit eine praktische Frage: Welche Schritte lassen sich sinnvoll an Agents delegieren – und wo bleiben Erfahrung, Kontrolle und manuelle Verifikation entscheidend? In diesem Kurs baust Du ein agentisches Red-Team-Setup. Über das Model Context Protocol (MCP) bindest Du Security-Werkzeuge an, lässt Agents Hypothesen entwickeln und prüfst ihre Ergebnisse im Lab. Im Mittelpunkt stehen Angriffe mit Agents auf klassische Systeme: Webanwendungen, Identitäten und Cloud-Dienste. Ein weiterer Schwerpunkt ist die Sicherheit von LLM-Anwendungen und Agents selbst. Scope, Rules of Engagement, menschliche Freigaben und ein nachvollziehbarer Audit Trail gehören von Anfang an dazu. Du lernst, plausible Agent-Antworten von nachgewiesenen Schwachstellen zu unterscheiden und Deinem Blue Team reproduzierbare Findings zu übergeben.
Stimmen unserer Teilnehmer:innen
The course was highly educational. I discovered many tools and found the integration of these tools with AI into a developer environment extremely fascinating. I learned a lot about cutting-edge topics, which is especially impressive given the rapid evolution of the AI landscape. The knowledge I gained has already helped me improve and accelerate my own processes, significantly enhancing my daily workflow.
Cloud Platform Solution Architect, Helvetia Versicherungen Schweiz
* Stimmen aus diesem oder verwandten Kursen.
Diese Kunden haben Kurse im gleichen Themen-Cluster bei uns gebucht.Mehr Kunden →
Inhalt
Dieses Training richtet sich an Engineers, die GenAI-gestützte Angriffe nachvollziehbar nachstellen und ihre Verteidigung damit prüfen wollen. Die Übungen verbinden klassische Angriffsziele mit den zusätzlichen Vertrauensgrenzen von Agent-Anwendungen.
Der Kurs besteht aus den folgenden Themen und kann je nach Publikum angepasst werden. Für Inhouse-Kurse vereinbaren wir passende Schwerpunkte, beispielsweise Webanwendungen, Active Directory, Cloud oder Container. In zwei Tagen bearbeiten wir ausgewählte Angriffspfade vertieft.
Auftrag und Testgrenzen
- Ziele, Scope und Rules of Engagement festlegen
- Freigaben, Datenumgang, Abbruchkriterien und Wiederherstellung planen
- Hands-On: Einen Lab-Testplan mit messbaren Erfolgskriterien erstellen
Der agentische Red-Team-Stack
- Planung, Tool Use, Kontext und Memory eines Agents
- Security-Werkzeuge über MCP anbinden; Rechte und Zielsysteme begrenzen
- Cloud- und lokale Modelle: Umgang mit Findings und vertraulichen Daten
- Hands-On: Agent-Harness mit Protokollierung und menschlichen Freigaben aufsetzen
Recon und Angriffsflächen im Lab
- Assets, Dienste, Identitäten und Vertrauensbeziehungen erfassen
- Scan-Ergebnisse einordnen und Hypothesen für Angriffspfade entwickeln
- Halluzinationen und Fehlalarme durch unabhängige Prüfungen erkennen
- Hands-On: Eine Lab-Anwendung untersuchen und die nächsten Tests begründen
Klassische Systeme mit Agent-Unterstützung testen
- Schwachstellen und Fehlkonfigurationen in Webanwendungen und Cloud-Diensten prüfen
- Identitäts- und Berechtigungsgrenzen entlang eines Angriffspfads untersuchen
- Manuelle Tests mit agentischen Abläufen vergleichen: Qualität, Zeit und Grenzen
- Hands-On: Einen freigegebenen Angriffspfad mit synthetischen Daten nachstellen und belegen
GenAI-gestütztes Social Engineering einordnen
- Phishing und synthetische Stimmen als Szenarien für autorisierte Übungen
- Technische Kontrollen und Freigabeprozesse gemeinsam bewerten
- Workshop: Eine Simulation mit fiktiven Identitäten und klaren Erfolgskriterien planen
LLM-Anwendungen und Agents als Testziel
- Direkte und indirekte Prompt Injection über Dokumente und Werkzeugantworten
- Datenabfluss, übermässige Rechte und fehlende Grenzen zwischen Nutzern
- Modellantworten von tatsächlichem Zugriff auf Daten und Werkzeuge unterscheiden
- Hands-On: Einen Lab-Agent mit Testdaten prüfen, härten und erneut testen
Findings und Zusammenarbeit mit dem Blue Team
- Reproduktionsschritte, Evidenz, Auswirkungen und Behebung dokumentieren
- Angriffsschritte mit Telemetrie und Detection-Lücken abgleichen
- Hands-On: Abschlussszenario durchführen, Findings übergeben und Gegenmassnahmen im Retest prüfen
Am Ende der zwei Tage hast Du ein agentisches Red-Team-Setup, einen nachvollziehbaren Testplan und einen Findings-Bericht aus dem Lab. Du weisst, welche Aufgaben Du an Agents delegieren kannst und welche Ergebnisse Du selbst verifizieren musst.
Der effektive Kursinhalt kann, abhängig von Trainer, Durchführung, Dauer und Konstellation der Teilnehmer:innen, von obigen Angaben abweichen.
In-House Kurs anfragen
Öffentlichen Termin anfragen
Kein passender öffentlicher Termin dabei? Trag dich unverbindlich ein – sobald genug Interesse besteht, planen wir einen neuen öffentlichen Termin und informieren dich zuerst.
Mehr über Agentic Red Teaming
Agentic Red Teaming verbindet offensive Security-Tests mit Agents, die Werkzeuge bedienen und Untersuchungsschritte vorschlagen. Der Nutzen entsteht durch überprüfbare Ergebnisse: Ein Agent-Vorschlag ist noch kein Finding. Entscheidend sind reproduzierbare Evidenz, die tatsächlichen Auswirkungen und ein Retest nach der Behebung.
Der Kurs betrachtet beide Seiten: Agents als Werkzeug für Tests klassischer Systeme und Agents als eigenes Testziel. Im zweiten Fall prüfen wir, ob nicht vertrauenswürdige Inhalte das Verhalten eines Agents beeinflussen können und welche Grenzen Daten und Werkzeugzugriffe schützen.
Passende Vertiefungen
- Agentic Blue Teaming: Detection, Triage und Incident Response mit Agents.
- Defense in the Age of Agentic Attacks: Prioritäten, Organisation und Krisenvorbereitung für Leadership.