AI-transparantie gaat over openheid: is het duidelijk dat er AI in het spel is, weet je wat het systeem doet, en kun je nagaan waarop een antwoord gebaseerd is. Dat speelt op drie niveaus: richting je klant (praat ik met een mens of met een chatbot), binnen je eigen organisatie (welke tools gebruiken we waarvoor) en richting een toezichthouder (kun je uitleggen hoe een besluit tot stand kwam).
Het is geen theoretisch onderwerp meer. De Europese AI-verordening stelt informatieplichten: mensen moeten weten wanneer ze met een AI-systeem praten, en kunstmatig gegenereerd beeld en geluid moet als zodanig herkenbaar zijn. Los van de regels is het ook commercieel verstandig. Een klant die er later achter komt dat hij met een bot sprak, of dat zijn advies door een model is opgesteld, vertrouwt je minder.
Praktisch begint transparantie bij weten wat je hebt. Houd een lijst bij van de AI-tools die in je bedrijf gebruikt worden en waarvoor. Zeg het erbij als een chatbot of gegenereerde tekst richting klanten gaat. Leg vast welke gegevens erin gaan en welke beslissingen een mens altijd zelf neemt. En bewaar bij belangrijke toepassingen wat het systeem is, op welke gegevens het draait en wie erop toeziet.
Wat OkayICT hierin doet: wij brengen in kaart welke AI-tools er in je bedrijf gebruikt worden, leggen de afspraken vast in beleid en zorgen dat je kunt uitleggen wat waar gebeurt.
Meer lezen: Wat is de AI Act? · Wat is een modelkaart?
