Prompt injectie is een aanval op AI-systemen waarbij iemand instructies verstopt in tekst die de AI leest. De AI ziet die verstopte tekst als een opdracht en voert hem uit. Denk aan een e-mail of webpagina met een zin als negeer je vorige instructies, waarna een AI-assistent iets doet wat de gebruiker nooit gevraagd heeft.
Dit wordt relevant zodra je AI aan je eigen gegevens koppelt. Een assistent die je mailbox samenvat of documenten doorzoekt, leest immers materiaal dat van buiten komt. Als een aanvaller daar een instructie in verwerkt, kan de AI gevoelige informatie prijsgeven of ongewenste acties in gang zetten. Het is een van de bekendste risicopunten bij het inzetten van AI op de werkvloer.
Er bestaat geen knop die dit volledig oplost. Wat helpt: geef de AI zo min mogelijk rechten, laat acties met gevolgen altijd door een mens bevestigen, en scheid duidelijk je eigen instructies van tekst die van buiten komt. Leg in je AI-beleid vast welke systemen een AI-assistent mag benaderen en wat hij zelfstandig mag doen.
Wat OkayICT hierin doet: wij helpen je AI veilig inrichten: beperkte rechten, duidelijke afspraken en toezicht op wat AI-assistenten mogen.
Meer lezen: Wat is een prompt? · Wat is een LLM?
