Wat is modelrisico?

Modelrisico is het risico dat een model — tegenwoordig meestal een AI-model — uitkomsten geeft die niet kloppen, en dat je die uitkomsten toch gebruikt. De term komt uit de financiële wereld, waar men al decennia rekenmodellen toetst, maar is met de opkomst van AI voor elk bedrijf relevant geworden.

Voor het MKB zit het risico in de sluipende variant. Een AI-assistent die offertes samenvat, een tool die cv’s voorsorteert of een model dat voorraad voorspelt geeft altijd een antwoord, ook als het fout is. Verandert de werkelijkheid (nieuwe prijzen, ander seizoen, andere klantgroep) terwijl het model op oude gegevens getraind blijft, dan verslechteren de uitkomsten geleidelijk zonder foutmelding. Neem je daar beslissingen op, dan kost dat geld of leidt het tot ongelijke behandeling.

Je beheerst modelrisico met eenvoudige maatregelen: leg vast waarvoor een model wél en niet gebruikt mag worden, houd een mens verantwoordelijk voor beslissingen met impact op mensen, controleer periodiek een steekproef van de uitkomsten tegen de werkelijkheid, en noteer welke versie van welk model je gebruikt. Onder de AI-verordening is die documentatie voor risicovolle toepassingen bovendien verplicht.

Hoe modelrisico ontstaat

Modelrisico ontstaat zelden door één grote fout. Het is meestal een optelsom van kleine dingen die niemand opmerkt. Deze oorzaken kom je in de praktijk het vaakst tegen:

• Verouderde of onvolledige data. Een model leert van wat het heeft gezien. Ontbreekt er informatie, dan vult het de rest zelf in.
• Bias in de trainingsdata. Is de dataset niet representatief, dan zijn de uitkomsten dat ook niet. Dat raakt vooral beslissingen over mensen.
• Drift. De werkelijkheid verschuift, het model niet. Prijzen, klantgedrag en seizoenen veranderen, terwijl het model met oude aannames blijft rekenen.
• Generatieve AI die te stellig is. Een taalmodel genereert het antwoord dat waarschijnlijk past. Of het klopt, controleert het niet. Zo’n verzonnen antwoord heet een hallucinatie.
• Gebruik buiten de bedoeling. Een tool die is gebouwd om samen te vatten, gebruik je opeens om te beslissen.
• Geen menselijke controle. Gaat de uitkomst zonder tussenstap door naar de klant of het systeem, dan blijft een fout lang onopgemerkt.

Modelrisico herkennen en beheersen

AI-modellen geven geen foutmelding als ze slechter gaan presteren. Je merkt het aan de randen. Uitkomsten die collega’s steeds vaker handmatig corrigeren. Adviezen die niet meer passen bij hoe het bedrijf nu werkt. Cijfers die je niet meer kunt uitleggen aan een klant. Een model dat er betrouwbaar uitziet, is nog niet betrouwbaar.

Voor de meeste organisaties is de aanpak niet ingewikkeld. Maak van de controle een klein, vast proces in plaats van een eenmalige actie. Spreek af waarvoor een model wordt gebruikt en waarvoor niet. Leg vast wie verantwoordelijk is voor de beslissing, niet alleen voor de tool. Controleer periodiek een steekproef: klopt wat het model zegt met wat je in de werkelijkheid ziet? En noteer welk model en welke versie je gebruikt, zodat je later kunt terugzoeken waar een uitkomst vandaan komt.

Dat is belangrijk zodra AI-systemen een rol krijgen in je besluitvorming. Blijven die uitkomsten ongecontroleerd, dan kan één overtuigend fout antwoord leiden tot een verkeerde offerte, een verkeerde inkoop of een verkeerde afwijzing. Vertrouwen in AI bouw je op wat je hebt gecontroleerd, niet op hoe stellig een antwoord klinkt. Modelrisico beheersen is daarmee vooral een kwestie van governance: afspraken, controle en vastlegging.

Veelgestelde vragen

Wat is modelrisico in het kort?

Modelrisico is het risico dat je beslissingen neemt op uitkomsten van een model die niet kloppen. Het gaat dus niet alleen om de fout zelf, maar om het gebruik ervan.

Wat is het verschil tussen modelrisico en AI-bias?

Bias is één van de oorzaken van modelrisico: het model is scheef getraind. Modelrisico is de bredere term en dekt ook drift, verkeerd gebruik en ontbrekende controle.

Geldt modelrisico ook voor tools als ChatGPT of Copilot?

Ja. Generatieve AI geeft altijd een antwoord, ook als de onderbouwing ontbreekt. Gebruik je die output in offertes, adviezen of rapportages, dan loop je hetzelfde risico.

Hoe vaak moet je een model controleren?

Dat hangt af van de impact. Hoe zwaarder de beslissing die op de uitkomst leunt, hoe vaker een steekproef nodig is. Leg de frequentie vast, zodat het niet afhangt van wie eraan denkt.

Meer lezen: Wat is AI-bias? · Wat is AI-governance?