applatenmaken.com/kennisbank/ai en uw data
Mag uw leverancier uw data gebruiken om AI te trainen?
De Autoriteit Persoonsgegevens riep deze week gebruikers van Twitch op geen gegevens te delen met de AI van Amazon, nadat het platform zijn voorwaarden aanpaste. Dat is het patroon waar u als afnemer van software mee te maken krijgt: een leverancier voegt AI toe, past zijn voorwaarden aan, en uw gegevens worden onderdeel van iets waar u nooit voor heeft getekend.
Waarom uw verwerkersovereenkomst dit vaak niet dekt
Een verwerkersovereenkomst legt vast dat uw leverancier persoonsgegevens alleen verwerkt in uw opdracht en voor het doel dat u heeft bepaald. Dat lijkt sluitend, en toch ontstaat hier een gat.
Het eerste gat is dat modellen trainen vaak wordt gepresenteerd als het verbeteren van de dienst, en dat is een formulering die veel afnemers zonder nadenken accepteren. Verbeteren van de dienst klinkt als foutjes oplossen, maar het kan ook betekenen dat uw gegevens permanent in een model belanden waar ze niet meer uit te halen zijn.
Het tweede gat is dat lang niet alles wat u aanlevert een persoonsgegeven is. Uw prijsafspraken, uw offertes, uw productiegegevens, uw klantenlijst: dat zijn bedrijfsgeheimen waarover de privacywetgeving niets zegt. Uw verwerkersovereenkomst beschermt ze dus niet, en uw gewone contract meestal ook niet, tenzij u het er expliciet in heeft gezet.
Het derde gat is dat voorwaarden wijzigen. Veel standaardcontracten laten toe dat de leverancier zijn algemene voorwaarden aanpast met een aankondiging. Wat vorig jaar niet mocht, mag volgend jaar, tenzij u iets heeft afgesproken dat daarboven staat.
- Wat de verwerkersovereenkomst dekt
- Persoonsgegevens, verwerkt in uw opdracht en voor uw doel.
- Wat er buiten valt
- Bedrijfsgegevens zonder persoonsgegevens: prijzen, offertes, productiegegevens.
- De formulering om op te letten
- Verbeteren van de dienst, dat trainen van modellen kan omvatten.
- Wat het onomkeerbaar maakt
- Wat in een model is verwerkt, is er niet meer uit te halen.
Wat u expliciet vastlegt
Dit is een van de weinige onderwerpen waarbij een korte, expliciete clausule meer waard is dan een lange algemene bepaling. Zwijgen betekent hier in de praktijk toestemming.
De op twee na laatste vraag is de belangrijkste. Zonder afspraak daarover is elke andere afspraak tijdelijk.
Let op de derde vraag. Uw leverancier gebruikt vrijwel zeker zelf een modelaanbieder, en de vraag of díe partij uw gegevens hergebruikt is een andere dan of uw leverancier het doet. Die keten hoort u in beeld te hebben, net als bij beveiliging; zie wat hoort in een verwerkersovereenkomst.
Wat wel en niet redelijk is om te eisen
Een absoluut verbod op elke vorm van hergebruik is niet altijd realistisch en soms ook niet in uw belang. Onderstaand onderscheid werkt in de praktijk beter dan alles dichttimmeren.
| Vorm van hergebruik | Hoe dat meestal ligt | Waar u op let |
|---|---|---|
| Trainen van een gedeeld model | !Vrijwel altijd onwenselijk; uw gegevens komen bij anderen terecht | !Dat dit expliciet is uitgesloten, ook voor de partijen achter uw leverancier |
| Een model dat alleen voor u werkt | ✓Vaak juist gewenst, want dat maakt de software beter voor uw situatie | !Dat het echt afgescheiden is en niet uw gegevens in een gedeelde basis stopt |
| Foutanalyse op ingevoerde gegevens | ✓Redelijk, mits kortdurend en beperkt tot wat nodig is | !Dat er een bewaartermijn staat en dat het niet stilzwijgend trainen wordt |
| Geaggregeerde statistieken | ✓Meestal geen bezwaar | !Dat het niet herleidbaar is naar u of uw klanten |
| Gegevens voor demonstraties | !Onwenselijk, en het gebeurt vaker dan u denkt | !Dat het expliciet is uitgesloten in plaats van aan goede smaak overgelaten |
Wat dit betekent voor maatwerksoftware
Bij software die speciaal voor u wordt gebouwd, ligt dit anders dan bij een standaardpakket. Uw leverancier heeft dan meestal geen enkel belang bij het hergebruiken van uw gegevens, want hij verkoopt niet hetzelfde product aan honderd andere klanten.
De vraag verschuift daarmee naar de laag eronder. Zit er een AI-functie in uw software, dan roept die vrijwel zeker een externe modelaanbieder aan, en dan is de vraag wat díe partij met de aanroepen doet. Bij zakelijke abonnementen is hergebruik voor training meestal uitgesloten en bij consumentenvarianten vaak niet. Laat vastleggen welke variant wordt gebruikt.
De tweede vraag is wat u überhaupt meestuurt. Veel AI-functies sturen meer gegevens mee dan het model nodig heeft, uit gemak bij het bouwen. Wat u niet verstuurt, kan nergens worden hergebruikt, en dat is een effectievere maatregel dan welke clausule ook. Wat er verder komt kijken bij AI in uw software staat in wat de AI Act nu écht van uw organisatie vraagt, en over de code zelf gaat mag uw leverancier uw software met AI laten schrijven.
Wat er in uw situatie juridisch geldt, legt u voor aan een jurist of uw functionaris gegevensbescherming. Deze pagina is uitleg, geen juridisch advies, en biedt geen garantie over naleving.
Veelgestelde vragen
Dekt mijn verwerkersovereenkomst dit niet al?
Gedeeltelijk. Zij regelt dat persoonsgegevens alleen in uw opdracht en voor uw doel worden verwerkt, maar veel leveranciers scharen trainen onder het verbeteren van de dienst. Bovendien vallen bedrijfsgegevens zonder persoonsgegevens, zoals prijsafspraken en productiegegevens, er helemaal buiten. Die beschermt u alleen met een expliciete bepaling.
Waarom is dit onomkeerbaar?
Omdat wat eenmaal in een model is verwerkt er niet meer uit te halen is. Bij een gewone verwerking kunt u om verwijdering vragen; bij een getraind model bestaat die knop niet. Dat maakt dit een van de weinige onderwerpen waarbij achteraf ingrijpen geen optie is en vooraf vastleggen het enige middel.
Is elke vorm van hergebruik slecht?
Nee. Een model dat alleen voor uw organisatie werkt en van uw gegevens leert, maakt de software juist beter voor uw situatie. Geaggregeerde statistieken zijn meestal ook geen bezwaar. Waar u wel scherp op moet zijn, is een gedeeld model waarin uw gegevens bij andere klanten terechtkomen, en het gebruik van uw gegevens voor demonstraties.
Wat als de leverancier zijn voorwaarden aanpast?
Dat is precies waar het meestal misgaat, en het is de reden dat u moet vastleggen dat dit onderwerp niet eenzijdig gewijzigd kan worden. De AP waarschuwde deze week Twitch-gebruikers nadat het platform zijn voorwaarden had aangepast ten gunste van AI-gebruik. Zonder afspraak daarover is elke andere afspraak tijdelijk.
Geldt dit ook voor de partij achter mijn leverancier?
Ja, en die vraag wordt vaak vergeten. Uw leverancier gebruikt vrijwel zeker een externe modelaanbieder, en of díe partij aanroepen hergebruikt is een aparte vraag. Bij zakelijke abonnementen is hergebruik voor training doorgaans uitgesloten en bij consumentenvarianten vaak niet. Laat vastleggen welke variant wordt gebruikt.
Speelt dit ook bij maatwerksoftware?
Bij uw bouwer zelf meestal niet, want die verkoopt niet hetzelfde product aan honderd anderen en heeft geen belang bij hergebruik. De vraag verschuift naar de laag eronder: zit er een AI-functie in, dan gaat het om wat de aangeroepen modelaanbieder met die gegevens doet.
Wat is de effectiefste maatregel?
Minder meesturen. Veel AI-functies sturen een compleet record mee terwijl het model aan een paar velden genoeg heeft, simpelweg omdat dat bij het bouwen makkelijker was. Wat u niet verstuurt, kan nergens worden hergebruikt. Dat werkt beter dan welke contractuele bepaling ook, want het is technisch afgedwongen.
Wat gebeurt er met onze gegevens als het contract eindigt?
Dat moet u expliciet afspreken, inclusief wat er gebeurt met alles wat is ingevoerd en met eventuele afgeleide gegevens. Een bepaling dat gegevens bij beëindiging worden verwijderd, dekt niet automatisch wat er al in een model is verwerkt. Ook daarom is uitsluiten vooraf belangrijker dan opruimen achteraf.