Wanneer organisaties AI ontwikkelen en implementeren, ligt de focus vaak op functionaliteit: wat kan het systeem en hoe snel levert het resultaat?
Volgens Janine Simons is dat maar een deel van het verhaal.
“Een AI-systeem kan technisch indrukwekkend zijn, maar dat betekent nog niet automatisch dat het betrouwbaar, veilig en verantwoord werkt. Uiteindelijk draait het om vertrouwen. En vertrouwen moet je kunnen onderbouwen.”
Met ruim vijftien jaar ervaring in Quality Assurance en softwaretesting helpt Janine organisaties om AI-systemen niet alleen werkend te krijgen, maar ook aantoonbaar betrouwbaar en beheersbaar te maken. Daarbij combineert ze haar expertise op het gebied van AI Testing, Quality Assurance en AI Governance.
Tijdens haar loopbaan werkte Janine aan complexe systemen binnen onder meer de financiële sector, overheid en retail. Daar stond altijd dezelfde vraag centraal: hoe weet je zeker dat een systeem doet wat het moet doen?
Met de opkomst van AI werd die vraag alleen maar relevanter.
“Bij traditionele software kun je vaak vooraf bepalen wat de juiste uitkomst moet zijn. Bij AI ligt dat anders. Uitkomsten kunnen variëren en de kwaliteit van een antwoord is niet altijd zwart-wit te beoordelen. Dat vraagt om een andere aanpak van kwaliteit en testing.”
Juist daarom ziet Janine een belangrijke rol voor AI Testing als onderdeel van verantwoord AI-gebruik.
De aandacht voor AI Governance groeit snel. Organisaties ontwikkelen beleid, richtlijnen en kaders om AI verantwoord in te zetten. Een positieve ontwikkeling, vindt Janine.
Toch ziet zij dat er vaak iets ontbreekt.
“Governance beschrijft hoe je wilt dat AI wordt gebruikt. Maar daarmee weet je nog niet of een AI-systeem in de praktijk daadwerkelijk aan die afspraken voldoet.”
Volgens haar ontstaat die zekerheid pas wanneer governance wordt gecombineerd met testen, validatie en monitoring.
“Je kunt op papier vastleggen welke risico’s je wilt beheersen, maar uiteindelijk moet je ook aantonen dat de maatregelen werken.”
Janine verwacht dat AI Assurance de komende jaren een steeds belangrijker vakgebied wordt. Daarbij komen verschillende disciplines samen: governance, risicoanalyse, testing, validatie en monitoring.
Het doel is eenvoudig: organisaties helpen om niet alleen vertrouwen uit te spreken, maar ook bewijs te leveren dat hun AI-systemen veilig, betrouwbaar en compliant functioneren.
“Klanten, toezichthouders en medewerkers willen steeds vaker weten hoe AI wordt ingezet en welke waarborgen zijn ingebouwd. Dan is het niet voldoende om te zeggen dat je het goed geregeld hebt. Je moet het kunnen aantonen.”
Volgens Janine geldt dit niet alleen voor grote organisaties met complexe compliance-eisen. Ook startups kunnen hier voordeel uit halen.
“Wanneer je vanaf de eerste versie van je product nadenkt over kwaliteit, risico’s en governance, voorkom je dat je later alles moet aanpassen. Het helpt je bovendien om vertrouwen op te bouwen bij klanten en investeerders.”
Naast adviesopdrachten verzorgt Janine daarom ook workshops en trainingen over AI Quality, AI Testing en AI Governance, waarbij de focus ligt op het praktisch toepassen van kwaliteitsprincipes binnen AI-ontwikkeling.
Voor Janine is aansluiting bij BRAIN Nederland een logische stap.
“De uitdagingen rondom AI zijn te groot om alleen op te lossen. We hebben samenwerking nodig tussen ondernemers, onderzoekers, beleidsmakers en technologie-experts.”
Volgens haar biedt BRAIN Nederland een waardevol platform om kennis te delen, ervaringen uit te wisselen en gezamenlijk te werken aan standaarden voor betrouwbare AI.
“Innovatie en verantwoordelijkheid hoeven elkaar niet te vertragen. Sterker nog: organisaties die kwaliteit vanaf het begin goed organiseren, kunnen juist sneller en met meer vertrouwen innoveren.”
Als er één boodschap is die Janine organisaties wil meegeven, dan is het deze:
“We moeten niet alleen vragen wat AI kan. We moeten ook vragen of het betrouwbaar werkt, of de risico’s beheersbaar zijn en of we dat kunnen aantonen.”
Want uiteindelijk ontstaat vertrouwen niet door mooie beloftes, maar door bewijs.
“Vertrouwen in AI ontstaat pas echt wanneer je kunt aantonen waarom dat vertrouwen terecht is.”
