AI-geletterdheid: een verplichting die vaak wordt gemist

Deze pagina gaat over de kenniseis richting uw medewerkers. Zoekt u het overzicht van wat de AI Act als geheel van uw organisatie vraagt, inclusief wat is ingegaan en wat is uitgesteld, lees dan wat de AI Act nu écht van uw organisatie vraagt.

De verplichting komt erop neer dat wie namens uw organisatie met AI-systemen werkt, voldoende kennis heeft om die verantwoord in te zetten. Voldoende is niet gedefinieerd als een aantal uren of een certificaat, maar als kennis die past bij de rol en bij het systeem waarmee gewerkt wordt.

Dat betekent iets anders voor iemand die een AI-assistent gebruikt bij het schrijven van teksten dan voor iemand die een systeem inzet dat besluiten voorbereidt over klanten. Hoe groter de impact van het systeem, hoe meer begrip er verwacht mag worden.

De eis geldt voor elke organisatie die AI-systemen inzet, ongeacht de omvang. Voor het mkb komt het in de praktijk neer op drie dingen: medewerkers weten wat het systeem wel en niet kan, ze weten wanneer ze het antwoord moeten controleren, en ze weten welke gegevens er niet in mogen.

De verplichting valt samen met een praktisch probleem dat de meeste organisaties inmiddels kennen: medewerkers gebruiken AI-hulpmiddelen, of het beleid er nu is of niet. Zonder afspraken belanden er klantgegevens in diensten waarvan niemand weet waar die worden verwerkt.

Datzelfde geldt voor de uitkomsten. Een medewerker die niet weet dat een model zelfverzekerd onjuiste dingen kan beweren, neemt die uitkomst over in een offerte of een brief aan een klant. Dat is geen technisch probleem maar een kennisprobleem.

De wettelijke eis is daarmee vooral een aanleiding om te regelen wat u toch al zou moeten regelen. Dat maakt het makkelijker te verkopen binnen de organisatie dan een verplichting die alleen op papier bestaat.

Begin met een overzicht van welke AI-hulpmiddelen er in uw organisatie worden gebruikt, en door wie. Dat is vaak een verrassend lijstje, want het gebruik loopt zelden via de inkoopafdeling.

Leg vervolgens per groep medewerkers vast wat zij moeten weten: wat het hulpmiddel doet, waar de grenzen liggen, welke gegevens er niet in mogen en wanneer een uitkomst gecontroleerd moet worden. Een pagina per groep volstaat meestal.

Maak het aantoonbaar. Een korte instructie die medewerkers hebben gelezen en waarvan u kunt laten zien wie dat wanneer heeft gedaan, is voldoende voor de meeste situaties. Een uitgebreid opleidingstraject is voor de meeste mkb-organisaties overkill.

Geldt dit ook als wij alleen een chatbot op onze website hebben?

Dan is de reikwijdte klein maar niet nul. De medewerkers die de chatbot beheren of de gesprekken opvolgen moeten begrijpen wat het systeem doet en waar het misgaat. Voor de rest van uw organisatie speelt het niet.

Moeten we een cursus inkopen?

Niet noodzakelijk. De wet vraagt om voldoende kennis passend bij de rol, niet om een specifieke opleiding. Voor de meeste organisaties volstaat een heldere interne instructie met een bevestiging dat medewerkers die hebben gelezen.

Wat als medewerkers zelf hulpmiddelen gebruiken die wij niet kennen?

Dat is precies waarom het overzicht de eerste stap is. Zolang gebruik onzichtbaar blijft, kunt u er geen afspraken over maken en loopt u het risico dat gegevens ergens belanden waar u niets van weet. Vraag ernaar zonder er een afrekening van te maken, anders krijgt u geen eerlijk beeld.

Wie is verantwoordelijk als een medewerker iets fout doet?

De organisatie die het systeem inzet, en dat bent u. Dat is een reden om de afspraken helder te hebben en vast te leggen, niet om de verantwoordelijkheid bij de medewerker te leggen. Wat u kunt aantonen aan instructie en toezicht telt mee.

Hangt dit samen met de transparantieplicht?

Ze komen uit dezelfde wet maar staan los van elkaar. De transparantieplicht gaat over wat uw gebruikers zien, AI-geletterdheid over wat uw medewerkers weten. Beide gelden en u kunt ze het beste in één keer oppakken.

• AI-transparantieplicht voor uw app
• De AI Act en uw organisatie
• Klantdata in AI-tools en de AVG