Moet de ontwikkeling van AI vertragen tot veiligheidsnormen sterker zijn? Ja, wanneer systemen steeds meer invloed krijgen op mensen, informatie en processen, horen aantoonbare veiligheidsmaatregelen mee te groeien. Maar vertragen betekent niet stilvallen: organisaties kunnen nu al verantwoord innoveren door klein te beginnen, duidelijke grenzen te stellen en menselijke controle concreet te organiseren.
NU.nl schrijft dat OpenAI de ontwikkeling van AI wil vertragen totdat er strengere veiligheidsnormen zijn. De precieze invulling van zo’n voorstel verdient altijd kritische lezing, maar de onderliggende vraag is voor iedere organisatie relevant: wat moet er geregeld zijn voordat een AI-systeem meer mag doen, meer data krijgt of zelfstandig vervolgacties uitvoert?
Generatieve AI is niet langer alleen een hulpmiddel om teksten samen te vatten of ideeën te verzamelen. AI kan steeds vaker informatie ophalen, documenten verwerken, klantcontact voorbereiden, workflows starten en voorstellen doen die direct doorwerken in de dagelijkse praktijk.
Dat vergroot de waarde, maar ook de impact van fouten. Een onjuiste samenvatting kan tot een verkeerd besluit leiden. Een gebrekkige koppeling kan informatie bij de verkeerde persoon laten belanden. Een overtuigend maar onjuist antwoord kan schade doen aan vertrouwen, reputatie of dienstverlening.
Daarom is de belangrijke vraag niet alleen of een model indrukwekkend presteert in een demo. De vraag is of de toepassing in de praktijk veilig, controleerbaar en herstelbaar is.
AI-veiligheidsnormen zijn geen abstracte checklist voor later. Ze vertalen zich naar concrete afspraken over techniek, processen en mensen. Een organisatie moet kunnen uitleggen wat een AI-toepassing doet, welke gegevens zij gebruikt, wie toezicht houdt en wat er gebeurt wanneer iets misgaat.
Denk daarbij aan zes basiselementen:
Deze onderdelen maken AI niet minder bruikbaar. Ze maken het juist mogelijk om AI duurzaam op te schalen.
Nee. Een tijdelijke pas op de plaats kan juist een voorwaarde zijn om verder te komen.
Wie te snel opschaalt zonder heldere grenzen, loopt het risico dat een veelbelovende toepassing wordt teruggedraaid na fouten, weerstand of een privacy-incident. Dan kost snelheid aan het begin uiteindelijk meer tijd, geld en vertrouwen.
Verantwoord vertragen betekent daarom: eerst bewijzen dat een toepassing beheersbaar werkt, daarna pas de reikwijdte vergroten. Dat is geen technologische angst, maar professioneel risicomanagement.
Een bruikbare volgorde is:
Zo blijft de organisatie in beweging, zonder veiligheid te behandelen als een reparatie achteraf.
In Europa bestaat er al een wettelijk kader dat AI-risico’s centraal zet. De Europese Commissie omschrijft de AI Act als een risicogebaseerd raamwerk voor ontwikkelaars en organisaties die AI gebruiken.
De kern daarvan is eenvoudig: hoe groter de mogelijke impact op gezondheid, veiligheid of grondrechten, hoe zwaarder de verplichtingen. Voor toepassingen met een hoog risico noemt de Commissie onder meer risicobeheersing, datakwaliteit, logging, documentatie, menselijke controle, robuustheid, cybersecurity en nauwkeurigheid.
Voor organisaties is dat meer dan een juridische ontwikkeling. Het is een nuttig ontwerpprincipe. Gebruik AI niet overal op dezelfde manier, maar laat de waarborgen passen bij de gevolgen van een fout.
| Type toepassing | Voorbeeld | Passende aanpak |
|---|---|---|
| Laag risico | Een eerste opzet voor een interne tekst | Medewerker controleert inhoud en bronverwijzingen |
| Middelgroot risico | Samenvatting van klantinformatie voor een gesprek | Toegang beperken, feiten toetsen en menselijke eindbeoordeling |
| Hoog risico | Ondersteuning bij selectie, krediet of toegang tot diensten | Strenge toetsing, documentatie, toezicht en duidelijke escalatie |
De wet vervangt geen gezond verstand. Andersom maakt gezond verstand zonder eigenaarschap, documentatie en toetsing een organisatie ook niet aantoonbaar zorgvuldig. Beide zijn nodig.
‘Er kijkt altijd een mens mee’ klinkt geruststellend, maar is pas waardevol wanneer duidelijk is wat die mens daadwerkelijk doet. Betekenisvolle menselijke controle vraagt om drie zaken.
Iemand die een AI-uitkomst beoordeelt, heeft voldoende inhoudelijke kennis nodig om fouten en ontbrekende context te herkennen. Laat eindcontrole daarom niet automatisch terechtkomen bij degene die toevallig de meeste tijd heeft.
Een controleur moet een uitkomst niet alleen kunnen zien, maar ook kunnen wijzigen, afwijzen, terugdraaien en opschalen. Regel vooraf wie beslist bij twijfel en hoe snel dat moet gebeuren.
Een fout is niet alleen iets om te herstellen, maar ook informatie om de toepassing beter te maken. Verzamel terugkerende missers, analyseer waar ze vandaan komen en pas waar nodig de instructies, kennisbronnen, rechten of werkafspraken aan.
Zo wordt controle geen bottleneck, maar een feedbacklus die de kwaliteit verhoogt.
Wil je een bestaande AI-toepassing opschalen of een nieuwe Digitale Medewerker introduceren? Beantwoord dan eerst deze vragen.
Als een organisatie deze vragen niet goed kan beantwoorden, is dat geen reden om AI definitief af te wijzen. Het is een signaal om de toepassing kleiner en beter beheersbaar te maken.
Het debat over strengere AI-veiligheidsnormen wordt soms neergezet als een keuze tussen innovatie of bescherming. In werkelijkheid zijn het geen tegenpolen. Zonder veiligheid wordt AI moeilijker uit te leggen, lastiger te vertrouwen en uiteindelijk lastiger op te schalen.
De organisaties die het meeste aan AI zullen hebben, zijn waarschijnlijk niet degenen die iedere nieuwe mogelijkheid als eerste inschakelen. Het zijn de organisaties die bewust kiezen waar AI helpt, medewerkers betrekken, controle inrichten en blijven leren van de praktijk.
