Model drift betekent dat een AI- of machine learning-model met de tijd minder goed gaat presteren, zonder dat er iets aan het model zelf veranderd is. De oorzaak zit buiten het model: de wereld waarop het getraind is, is opgeschoven. Nieuwe producten, ander koopgedrag, andere prijzen, andere fraudetrucs — het model kent ze niet, want ze zaten niet in de trainingsdata.
Dat is verraderlijk, omdat het model gewoon antwoorden blijft geven. Er komt geen foutmelding. Een voorspelling van je voorraad of een model dat verdachte facturen herkent, wordt stilletjes minder accuraat, en als niemand dat meet ga je beslissingen nemen op basis van een model dat achterloopt. Zeker als een AI-toepassing eenmaal in een werkproces zit, is dat een reëel risico.
Je gaat het te lijf door prestaties te blijven meten in plaats van na de livegang weg te kijken: hoe vaak klopt de voorspelling nog, en verschuift de samenstelling van de binnenkomende data? Op basis daarvan train je periodiek opnieuw met recente gegevens. Spreek vooraf af wie dat bewaakt en bij welke drempel er ingegrepen wordt — dat hoort thuis in je AI-beleid.
Wat OkayICT hierin doet: Wij denken mee over verantwoorde AI-inzet in je bedrijf: welke toepassing loont, wat je moet bewaken en hoe je afspraken vastlegt in beleid.
Meer lezen: Wat is een AI-model? · Wat is trainingsdata? · Wat is machine learning?
