De AI Act: Nieuwe Verplichtingen voor Gebruikers van AI-Systemen

De Europese AI Act legt niet alleen verplichtingen op aan ontwikkelaars en aanbieders van kunstmatige intelligentie, maar ook aan organisaties die AI-systemen gebruiken (de gebruiker). Of het nu gaat om medische besluitvorming, chatbots, cv-screening of automatische factuurverwerking: gebruikers krijgen te maken met concrete verantwoordelijkheden.

Dit artikel zet op een rij wat deze verplichtingen inhouden en hoe organisaties zich hierop kunnen voorbereiden.

Menselijk toezicht is verplicht

Organisaties die AI inzetten moeten actief maatregelen treffen. Passief gebruik is niet langer toereikend. Er moet beleid komen, toezichtprocedures moeten worden ingericht, medewerkers moeten worden getraind in AI-geletterdheid en verantwoordelijkheden moeten worden vastgelegd. Deze verplichtingen gelden voor high-risk systemen, maar zijn ook voor andere toepassingen die indirecte invloed hebben op mensen of processen relevant. Denk bijvoorbeeld aan een chatbot die automatisch klantvragen afhandelt. Ook daar moet u zorgen voor controle en transparantie vanaf het begin.

Data moet kloppen, en dat is de verantwoordelijkheid van de gebruiker

De kwaliteit van high-risk AI-systemen valt of staat met de data waarop ze zijn getraind. Gebruikers moeten toezien op het gebruik van voldoende representatieve en relevante data. Dat betekent controleren of de data aansluit bij het beoogde gebruik en of verschillende perspectieven en doelgroepen voldoende zijn vertegenwoordigd. Denk bijvoorbeeld aan het vermijden van datasets die alleen gegevens bevatten van één specifieke leeftijdsgroep, geslacht of culturele achtergrond. Zo voorkomt u bevooroordeelde of eenzijdige uitkomsten.

Daarnaast moeten gebruikers de datakwaliteit toetsen aan de hand van de doelen waarvoor het systeem wordt ingezet. Bepaal vooraf welke uitkomsten het systeem moet ondersteunen, en controleer of de data daarvoor geschikt, volledig en actueel is.

Verplicht melden van incidenten
Incidenten waarbij het AI-systeem faalt, schade veroorzaakt of onverwachte uitkomsten genereert, moeten door de gebruiker gemeld worden aan zowel de aanbieder als de bevoegde toezichthouder. Afhankelijk van de AI die wordt ingezet, zijn verschillende toezichthouders bevoegd. Identificeer deze dus op voorhand. Tijdige melding voorkomt verdere schade, beperkt juridische aansprakelijkheid en beschermt de reputatie van de organisatie. Zorg dus voor een meldprotocol met aanwijzing van de toezichthouder per AI, duidelijke verantwoordelijkheden en training van medewerkers in het herkennen van incidenten.

Registratie in de Europese databank

Voor high-risk AI-systemen geldt dat gebruikers het feitelijke gebruik van deze systemen moeten registreren in een door de EU beheerde databank, echter is dit tevens voor andere systemen een goede methode om hierover te kunnen verantwoorden. Dit vergroot het toezicht op de markt en zorgt voor transparantie over waar en hoe AI wordt toegepast binnen de Unie.

Gebruikt u als organisatie bijvoorbeeld een GPT- of Copilot-oplossing? Dan is registratie meestal niet nodig bij eenvoudige toepassingen, zoals tekstsuggesties of e-mailondersteuning. Maar zodra AI wordt ingezet voor besluitvorming met impact op mensen, zoals personeelsselectie of beoordeling, dan is registratie wel verplicht. Het is dus belangrijk om het gebruik goed te analyseren en te bepalen of uw toepassing onder deze verplichting valt.

Bewustwording als eerste stap

De AI Act markeert een kantelpunt in de manier waarop organisaties omgaan met kunstmatige intelligentie. Niet alleen ontwikkelaars, maar ook gebruikers dragen verantwoordelijkheid voor een veilige, eerlijke en transparante inzet. Het treffen van maatregelen, het opleiden van personeel, het garanderen van menselijk toezicht en het naleven van meld- en registratieplicht zijn geen vrijblijvende keuzes, ze vormen de basis voor toekomstbestendige AI-toepassingen binnen een Europees kader.

Een proactieve houding beschermt niet alleen de eindgebruiker, maar versterkt ook het vertrouwen in technologie. Wacht dus niet tot de wet volledig van kracht is, neem vandaag nog contact met ons op om te bespreken hoe uw organisatie aan de AI Act kan voldoen.

NEEM CONTACT OP