Artificial Intelligence kan inmiddels schrijven, analyseren, voorspellen, adviseren en steeds vaker zelfstandig handelen.
Maar hoe krachtiger AI wordt, hoe belangrijker een vraag wordt die we misschien nog veel te weinig stellen:
Niet alleen: wat kan AI? Maar vooral: wat willen we dat AI mag?
Een recente uitspraak van staatssecretaris van Defensie Derk Boswijk maakt op indringende wijze duidelijk waarom die discussie zo belangrijk is.
Boswijk vertelde tijdens een bijeenkomst in Rome over een bezoek aan een Oekraïense commandopost in de buurt van Dnipro.
Daar zag hij hoe AI wordt ingezet om militaire doelen te herkennen en de kans op succes van aanvallen met drones en andere onbemande systemen te berekenen.
Op een scherm zag hij ook iets anders: de kosten van de oorlog.
Volgens de informatie die Boswijk daar te zien kreeg, kost het uitschakelen van één Russische soldaat minder dan 1.000 dollar, terwijl het opleiden en inzetten van een soldaat ongeveer 58.000 dollar kost.
Lees die cijfers nog eens.
Een mens wordt daarmee in een digitaal systeem bijna een rekensom.
Doel gevonden.
Kans op succes berekend.
Kosten bepaald.
Actie uitgevoerd.
Technologisch gezien misschien efficiënt.
Maar juist hier begint ethiek.
Want een algoritme kan uitstekend rekenen. Het kan patronen herkennen en kansen berekenen. Maar het begrijpt niet wat een mensenleven waard is.
Boswijk verwoordde het treffend:
“Algoritmen hebben geen geweten.”
Ze kennen geen twijfel, medelijden of morele verantwoordelijkheid zoals mensen die kennen.
En precies daarom moeten we nadenken over de grenzen van AI.
Het militaire voorbeeld is extreem. Juist daardoor wordt het ethische dilemma onmiddellijk zichtbaar.
Maar dezelfde fundamentele vraag komt steeds vaker terug in ons dagelijks leven:
Hoeveel invloed willen we een algoritme geven op beslissingen die grote gevolgen hebben voor mensen?
Dat speelt bijvoorbeeld wanneer iemand solliciteert, wanneer een kind op school wordt beoordeeld of wanneer een burger door een overheidssysteem als risico wordt aangemerkt.
Stel dat een organisatie 500 sollicitaties ontvangt voor een vacature.
AI analyseert alle cv’s, vergelijkt kandidaten en selecteert automatisch de twintig mensen die volgens het systeem het beste bij de functie passen.
Efficiënt? Absoluut.
Maar stel dat het algoritme is getraind op historische personeelsdata. En dat in het verleden bepaalde groepen minder vaak werden aangenomen.
Dan kan AI die oude patronen overnemen.
Misschien wordt een uitstekende kandidaat afgewezen zonder dat ooit een recruiter naar zijn of haar cv heeft gekeken.
En dan ontstaan ethische vragen.
Waarom is iemand afgewezen?
Kan het bedrijf dat uitleggen?
Kan de sollicitant bezwaar maken?
En wie is verantwoordelijk wanneer het algoritme discrimineert?
Juist toepassingen van AI op het gebied van werving, selectie en beoordeling van medewerkers worden binnen de Europese AI Act als risicovol gezien.
AI kan uitstekend helpen bij recruitment.
Maar moeten we AI ook de uiteindelijke beslissing laten nemen?
Misschien wordt het nog duidelijker wanneer het over kinderen gaat.
AI krijgt een steeds grotere rol binnen het onderwijs. Het kan leerlingen persoonlijk begeleiden, oefeningen aanpassen aan hun niveau en docenten helpen om leerachterstanden sneller te signaleren.
Dat biedt enorme mogelijkheden.
Maar stel dat een AI-systeem op basis van cijfers, gedrag, aanwezigheid, taalniveau en eerdere prestaties voorspelt dat een twaalfjarige leerling waarschijnlijk geen vwo aankan.
Wat doen we dan met die voorspelling?
Gebruiken we haar om het kind extra te helpen?
Of wordt het ongemerkt een argument om het kind een lager schooladvies te geven?
Dat verschil is essentieel.
Want voorspellingen hebben de neiging zichzelf te versterken.
Wanneer een systeem zegt dat een leerling waarschijnlijk minder goed zal presteren, kunnen verwachtingen veranderen. Misschien krijgt die leerling minder uitdagende opdrachten, minder aandacht of minder mogelijkheden.
Terwijl kinderen zich ontwikkelen.
Ze verrassen ons.
Ze groeien.
Ze kunnen ineens een enorme sprong maken.
AI kijkt vooral naar wat waarschijnlijk is op basis van het verleden. Onderwijs gaat juist ook over wat in de toekomst mogelijk kan worden.
Daarom moeten we heel voorzichtig zijn wanneer algoritmen invloed krijgen op beslissingen die de toekomst van kinderen mede bepalen.
AI moet een docent kunnen ondersteunen.
Maar willen we dat AI bepaalt welke kansen een kind krijgt?
Ook bij de overheid kan AI veel voordelen bieden.
Het kan aanvragen sneller verwerken, patronen herkennen, fraude helpen opsporen en ambtenaren ondersteunen bij enorme hoeveelheden informatie.
Maar stel dat een AI-systeem een burger automatisch een hoge risicoscore geeft.
Misschien door een combinatie van inkomen, gezinssamenstelling, postcode, eerdere aanvragen en tientallen andere databronnen.
Op het scherm verschijnt:
Hoog risico.
Wat gebeurt er vervolgens?
Wordt deze burger vaker gecontroleerd?
Duurt een aanvraag langer?
Wordt ondersteuning geweigerd?
En misschien nog belangrijker: weet die burger eigenlijk dat een algoritme een rol heeft gespeeld?
Het wordt helemaal problematisch wanneer de ambtenaar die met het systeem werkt zelf niet precies meer kan uitleggen waarom iemand als risicovol is aangemerkt.
Dan verandert een statistische voorspelling ongemerkt in een oordeel over een mens.
Nederland weet inmiddels hoe groot de gevolgen kunnen zijn wanneer risicomodellen, data en geautomatiseerde besluitvorming mensen onterecht verdacht maken.
AI kan de overheid beter en efficiënter maken.
Maar efficiëntie mag nooit belangrijker worden dan rechtvaardigheid.
Deze discussie wordt de komende jaren alleen maar belangrijker.
AI geeft namelijk steeds minder vaak alleen een antwoord.
We krijgen steeds meer AI-agents en digitale medewerkers die zelfstandig taken uitvoeren.
Ze versturen e-mails, analyseren dossiers, selecteren informatie, benaderen klanten, maken voorstellen en kunnen zelfstandig vervolgstappen uitvoeren.
Dat is een belangrijke ontwikkeling.
Maar daarmee verandert ook de ethische vraag.
Tot nu toe vroegen we vooral:
“Klopt het antwoord dat AI geeft?”
Straks moeten we steeds vaker vragen:
“Welke beslissingen mag AI zelfstandig nemen?”
En daar direct achteraan:
“Wie is verantwoordelijk voor wat AI doet?”
Want verantwoordelijkheid kun je niet simpelweg automatiseren.
Met de Europese AI Act worden steeds meer grenzen gesteld aan het gebruik van AI. Dat is belangrijk en noodzakelijk.
Maar wetgeving alleen gaat dit vraagstuk niet oplossen.
Want iets kan juridisch toegestaan zijn en tegelijkertijd maatschappelijk onwenselijk.
De wet bepaalt vooral wat wel en niet mag.
Ethiek gaat een stap verder.
Ethiek vraagt:
Is het eerlijk?
Is het uitlegbaar?
Is het proportioneel?
Kan iemand bezwaar maken?
Worden mensen onnodig benadeeld?
Blijft er menselijke controle?
Wie draagt verantwoordelijkheid als het fout gaat?
En uiteindelijk misschien wel de belangrijkste vraag:
Willen we dit eigenlijk wel?
Bij BRAIN Nederland vinden we dat ethiek niet moet worden gebruikt als argument om AI tegen te houden.
Integendeel.
AI biedt enorme kansen.
Het kan onderwijs persoonlijker maken. Het kan werknemers ondersteunen. Het kan de zorg verbeteren. Het kan organisaties productiever maken. Het kan overheidsdiensten toegankelijker maken en in militaire situaties zelfs bijdragen aan de bescherming van mensenlevens.
Maar juist omdat AI zo krachtig wordt, moeten we tegelijkertijd nadenken over de grenzen.
Verantwoorde AI betekent niet minder innovatie. Het betekent betere innovatie.
Innovatie waarbij we vooraf nadenken over de gevolgen in plaats van pas wanneer het fout gaat.
Misschien moeten we het daarom niet ingewikkelder maken dan nodig.
Bij iedere nieuwe toepassing van AI zouden we drie vragen moeten stellen.
Dat is voornamelijk een technologische vraag.
Dat is steeds vaker een juridische vraag.
Dat is een ethische en maatschappelijke vraag.
En juist die laatste vraag kunnen we niet uitbesteden aan een algoritme.
Niet aan OpenAI.
Niet aan Google.
Niet aan een softwareleverancier.
Niet aan de overheid.
En ook niet uitsluitend aan programmeurs en AI-experts.
Daar moeten bedrijven, ontwikkelaars, medewerkers, gebruikers, overheid, wetenschap én maatschappij gezamenlijk over nadenken.
Want hoe intelligent AI de komende jaren ook wordt, één verantwoordelijkheid zouden we nooit moeten automatiseren:
de verantwoordelijkheid om zelf te bepalen wat we als mens juist vinden.
Daarom vindt BRAIN Nederland het belangrijk dat het gesprek over AI niet alleen gaat over betere modellen, snellere computers en indrukwekkende toepassingen.
Het moet óók gaan over waarden, transparantie, verantwoordelijkheid en menselijke controle.
Niet om AI af te remmen.
Maar om ervoor te zorgen dat technologische vooruitgang uiteindelijk ook menselijke vooruitgang blijft.
Bron / aanleiding: Ministerie van Defensie, Boswijk over militaire AI: ‘Innovatie zonder ethiek is gevaarlijk’, 21 augustus 2026.
