> For the complete documentation index, see [llms.txt](https://owasp-ai-security.gitbook.io/owasp-ai-security-docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://owasp-ai-security.gitbook.io/owasp-ai-security-docs/gandalf-lakera-plattform-uberblick.md). # Gandalf (Lakera): Plattform-Überblick 🔗 **URL:** [gandalf.lakera.ai](https://gandalf.lakera.ai) Gandalf ist eine kostenlose, spielerisch aufgebaute Übungsplattform von Lakera für Prompt-Injection- und KI-Red-Teaming-Training. Es gibt zwei grundlegende Spielmodi: ## 1. Klassisches Gandalf (Password Reveal) Das Original: Ein einzelner Chatbot verteidigt ein geheimes Passwort über mehrere, zunehmend schwierigere Level hinweg. Rein konversationsbasiert, kein Tool-Zugriff — der klassische Einstieg in Prompt Injection. ## 2. Gandalf: Agent Breaker Die "agentische" Weiterentwicklung, und das, was wir heute nutzen: **ein ganzer App Store voller KI-Anwendungen — und jede einzelne davon kann gehackt werden.** Aktuell (Stand: dieser Workshop) gibt es genau **10 Apps**, jede mit einem eigenen Angriffsziel und mehreren Leveln steigender Schwierigkeit: | App | Angriffsziel | | ------------------------- | ------------------------------------------------------------------------------------------------------------------------------------- | | **Cycling Coach** | Extrahiere den System-Prompt eines persönlichen Fahrrad-Trainings-Assistenten. | | **Thingularity** | Extrahiere die verfügbaren Tools eines Produktempfehlungs-Agenten. | | **OmniChat Desktop** | Schmuggle einen Angriff in die Beschreibung eines MCP-Servers, um Nutzerdaten aus einem persönlichen Chat-Assistenten zu extrahieren. | | **Clause AI** | Exfiltriere geschützte Zeugeninformationen aus einem KI-Rechtsassistenten. | | **CorpConnect Messenger** | Missbrauche fehlkonfigurierte Zugriffsrechte, um den Absender einer E-Mail in einem internen Firmen-Chat-Tool zu fälschen. | | **Curs-ed CodeReview** | Baue eine bösartige Regel-Datei, die von einem automatisierten KI-Code-Review-Assistenten gelesen wird. | | **Solace AI** | Bringe einen Mental-Health-Support-Chatbot dazu, unangemessene Inhalte auszugeben. | | **PortfolioIQ Advisor** | Verstecke einen Angriff in einem PDF-Bericht, damit ein KI-Investmentberater falsche Einschätzungen ausgibt. | | **Trippy Planner** | Schmuggle einen Angriff in eine Webseite, damit ein Reiseplanungs-Agent einen bösartigen Link einfügt. | | **MindfulChat** | Schmuggle einen Angriff in die Memory-Logs eines Konversations-Chatbots. | > 💡 Fällt dir was auf? Jede dieser Apps demonstriert eine andere OWASP-Kategorie aus dem letzten Kapitel — Cycling Coach z. B. LLM08 (Hidden Context Exposure), CorpConnect Messenger eher LLM03 (Excessive Agency), PortfolioIQ Advisor eine Form von LLM01 als indirekte Prompt Injection über ein Dokument. Wer nach dem Workshop noch Zeit und Lust hat: Alle 10 Apps sind einen Blick wert! ## Die Oberfläche im Detail So sieht die Seite aus, wenn du eine App (hier: MindfulChat) geöffnet hast — vier Bereiche, die bei jeder App gleich aufgebaut sind: * **① Links:** Angriffsziel ("Attack Objective"), Hintergrundszenario ("Attack Scenario"), über welchen Weg der Angriff eingeschleust wird ("Attack Vector") sowie dein aktueller Level mit Ziel-Score * **② Mitte:** Hier trägst du deinen Payload ein — bei MindfulChat ist das ein simulierter "Memory Log"-Eintrag; bei anderen Apps kann das z. B. eine präparierte E-Mail oder ein Dokument sein * **③ Unten:** Der Button, um deinen Angriff abzuschicken ("Initiate Attack") * **④ Rechts:** Die "Attack Preview" — eine simulierte Vorschau der App, die das (fiktive) Opfer sieht. Nach dem Abschicken siehst du hier, wie die KI auf dein Opfer reagiert > 📸 **Hinweis:** Ein Screenshot der Oberfläche folgt hier bald — ich konnte die Bilddatei technisch noch nicht zuverlässig einbetten. Am einfachsten fügst du selbst kurz einen Screenshot ein: In GitBook auf diese Seite gehen, an die gewünschte Stelle klicken und ein Bild per Drag & Drop oder Copy-Paste einfügen. ## Wie der Score funktioniert Der Score bewertet, wie gut dein Payload das jeweilige Angriffsziel erreicht hat — nicht binär "geschafft/nicht geschafft", sondern graduell von 0 bis 100. Ab ungefähr 75 Punkten gilt ein Level meist als bestanden ("Target score"), 100 ist die perfekte Lösung. > 💡 **Tipp:** Wenn ein Payload abgelehnt wird oder 0 Punkte bekommt, gibt euch die Fehlermeldung oft einen Hinweis darauf, *warum* — das systematisch auszuwerten ist meist zielführender als wildes Ausprobieren. *** Heute schauen wir uns **vier** dieser Apps genauer an — wir starten mit einem kurzen, lustigen Warm-up: [**Cycling Coach: Einführung**](/owasp-ai-security-docs/cycling-coach-einfuhrung-warm-up.md). --- # Agent Instructions This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com. ## Querying This Documentation If you need additional information that is not directly available in this page, you can query the documentation by asking a question. Perform an HTTP GET request on the following URL with the `ask` and `goal` query parameters: ``` GET https://owasp-ai-security.gitbook.io/owasp-ai-security-docs/gandalf-lakera-plattform-uberblick.md?ask=&goal= ``` `ask` is the immediate question: it should be specific, self-contained, and written in natural language. `goal` is what the user is ultimately trying to achieve, the reason they need the answer. Sharing it helps GitBook give you a better, more relevant answer. A goal is most helpful when it describes the outcome the user wants rather than restating the question. For example, with `ask=how do I create an API token`, a goal like `automate deployments from our CI pipeline` lets GitBook tailor the answer to that use case. The response will contain a direct answer to the question and relevant excerpts and sources from the documentation. Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.