Het Europees Parlement en de Raad hebben een voorlopig akkoord bereikt over aanpassingen aan de Europese AI Act. De bedoeling is om de wet beter uitvoerbaar te maken voor bedrijven, zonder de bescherming van burgers, veiligheid en grondrechten te verzwakken.
BRAIN Nederland ziet dit als een belangrijke stap. Goede AI-regelgeving moet innovatie mogelijk maken én duidelijke grenzen stellen aan toepassingen die mensen kunnen schaden.
Een belangrijk onderdeel van het akkoord is het uitstel van verschillende verplichtingen voor hoogrisico-AI-systemen. Organisaties krijgen hierdoor meer tijd om zich voor te bereiden en om te wachten op technische standaarden en praktische richtlijnen.
Dat uitstel betekent echter niet dat bedrijven kunnen afwachten. Het inventariseren van AI-systemen, risico’s, databronnen en verantwoordelijkheden vraagt tijd. Organisaties doen er daarom verstandig aan nu al vast te leggen:
De regels rond AI-gegenereerde content worden eveneens concreter. Teksten, afbeeldingen, video’s en andere content die met AI zijn gemaakt, moeten in bepaalde situaties beter herkenbaar en technisch detecteerbaar worden.
Dat is belangrijk voor het vertrouwen in informatie. Mensen moeten kunnen begrijpen wanneer zij met AI-content te maken hebben, zeker wanneer die content realistisch, overtuigend of mogelijk misleidend is.
Europa trekt daarnaast een harde grens bij zogenoemde nudifier-apps. Dit zijn AI-toepassingen waarmee zonder toestemming seksueel expliciete beelden, video’s of audio van herkenbare personen kunnen worden gemaakt.
Ook AI-systemen die materiaal van seksueel misbruik van kinderen kunnen genereren, worden verboden. Aanbieders moeten technische maatregelen nemen om dergelijk misbruik zoveel mogelijk te voorkomen.
Deze aanscherping laat zien waar AI-regelgeving uiteindelijk over gaat: niet alleen over processen en documentatie, maar vooral over menselijke waardigheid, veiligheid en bescherming.
Het akkoord moet ook voorkomen dat bedrijven met overlappende Europese regels worden geconfronteerd. Wanneer AI onderdeel is van een product dat al onder andere veiligheidswetgeving valt, moet beter worden gekeken welke verplichtingen daadwerkelijk nodig zijn.
Niet iedere AI-toepassing brengt immers hetzelfde risico met zich mee. Een hulpmiddel dat een tekst samenvat, is iets anders dan een systeem dat beslist over sollicitanten, medische behandelingen of toegang tot publieke voorzieningen.
BRAIN Nederland is positief over regelgeving die duidelijker en beter uitvoerbaar wordt. Tegelijkertijd blijft de kern overeind: organisaties moeten kunnen uitleggen hoe hun AI werkt, welke risico’s bestaan en waar menselijke controle is georganiseerd.
Verantwoordelijke AI is daarom niet alleen een wettelijke verplichting. Het wordt steeds meer een onderscheidend vermogen.
Lees het volledige bericht op de website van het Europees Parlement.
