Betrieb & Recht
Guardrails
Technische und organisatorische Grenzen, die festlegen, was ein KI-System tun darf und was nicht.
Guardrails sind alles, was den Handlungsraum eines KI-Systems einschränkt: Regeln im System-Prompt, Prüfungen der Ausgabe, eng gesetzte Rechte auf Werkzeuge, Bestätigung durch Menschen vor kritischen Schritten, Protokollierung.
Je selbstständiger ein System handelt, desto wichtiger wird diese Ebene. Ein Agent mit Schreibrechten auf ein Produktivsystem braucht andere Grenzen als ein Chat, der Textvorschläge macht. Die nützlichste Frage dabei ist nicht „was soll es können“, sondern „was passiert im schlechtesten Fall“.
Verwandte Begriffe
- KI-Agent
Ein System, in dem ein Modell selbst entscheidet, welche Werkzeuge es in welcher Reihenfolge benutzt, um ein Ziel zu erreichen.
- MCP
Ein offener Standard, über den KI-Anwendungen einheitlich an externe Werkzeuge und Datenquellen andocken.
- DSGVO und KI
Personenbezogene Daten in KI-Systemen brauchen Rechtsgrundlage, Zweckbindung und einen Blick darauf, wo verarbeitet wird.
- System-Prompt
Die vorangestellte Anweisung, die Rolle und Regeln für ein ganzes Gespräch festlegt.
In der Praxis üben
In der AI Masterclass kommt dieser Begriff nicht als Definition vor, sondern in einer Session, in der damit gearbeitet wird.