Een AI-guardrail is een grens die je om een AI-systeem heen zet: een regel of controle die bepaalt wat het model mag verwerken, zeggen of doen. Dat kan aan de invoerkant liggen (welke data mag erin), aan de uitvoerkant (wat mag eruit) of in de acties die een AI-assistent zelfstandig mag uitvoeren.
Zodra je AI op bedrijfsdata loslaat, wordt dit heel praktisch. Zonder guardrails kan een assistent een offerte tonen aan iemand die daar niets mee te maken heeft, verzonnen cijfers presenteren alsof ze kloppen, of via een verstopte instructie in een document met je gegevens aan de haal gaan. Guardrails maken het verschil tussen een handige collega en een lek.
In de praktijk bestaan guardrails uit drie lagen: toegangsrechten, zodat het model alleen ziet wat de gebruiker zelf ook mag zien, inhoudelijke filters op in- en uitvoer, en logging zodat je achteraf kunt zien wat er gevraagd en geantwoord is. Leg daarnaast in gewone taal vast waarvoor medewerkers AI wel en niet gebruiken.
Wat OkayICT hierin doet: wij richten AI-toepassingen zo in dat rechten, filters en logging vanaf dag een kloppen, in plaats van achteraf.
Meer lezen: Wat is AI-governance? · Wat is prompt injectie?
