Een AI-agent toegang geven tot uw systemen

Tot vorig jaar had elke leverancier zijn eigen manier om een AI-model aan bedrijfsgereedschap te knopen. Sinds er een gedeelde afspraak is over hoe een agent ontdekt welk gereedschap er is en hoe hij het aanroept, is dat koppelen een stuk eenvoudiger geworden.

Die afspraak wordt inmiddels door vrijwel alle grote aanbieders ondersteund en staat onder beheer van een onafhankelijke stichting. Voor u betekent dat: als uw systemen een nette koppeling hebben, kan een agent er relatief eenvoudig bij.

Precies dat maakt de vraag dringend die daarvoor academisch was. Niet of het kan, maar wat u toestaat.

Bij een klassieke koppeling weet u vooraf welke handelingen er plaatsvinden. Een systeem haalt elke nacht orders op, of stuurt bij een gebeurtenis een bericht door. Het gedrag ligt vast in code die iemand heeft geschreven.

Een agent bepaalt zelf welke handeling hij uitvoert, op basis van wat hem gevraagd is. Dat is de reden dat hij nuttig is en meteen de reden dat u niet vooraf weet wat er gaat gebeuren. De koppeling geeft hem mogelijkheden; de opdracht bepaalt welke hij gebruikt.

Daar komt bij dat die opdracht uit tekst bestaat en dat die tekst van buiten kan komen. Een agent die een binnengekomen bericht leest, kan een instructie in dat bericht opvolgen. Dat is geen theoretisch risico maar de meest voorkomende manier waarop dit soort koppelingen misgaat.

• Per handeling in plaats van per systeem: leesrecht op één soort gegevens is iets anders dan toegang tot de database waarin die staan.
• Alleen lezen waar dat kan. Veel van wat een agent nuttig maakt, vraagt geen schrijfrecht.
• Een aparte identiteit voor de agent, niet het account van een medewerker. Anders is achteraf niet te zien wie wat deed.
• Een grens per periode: hoeveel opvragingen, hoeveel wijzigingen. Een agent die in een lus belandt, merkt u dan aan de rem in plaats van aan de gevolgen.
• Bevestiging door een mens bij alles wat onomkeerbaar is: verwijderen, versturen, bestellen, betalen.

Van elke handeling wilt u weten wie hem aanvroeg, wanneer, met welke invoer en wat eruit kwam. Zonder dat spoor is een fout achteraf niet te reconstrueren, en bij een incident is reconstrueren het eerste wat u moet doen.

Let erop dat het spoor de opdracht bevat en niet alleen de handeling. Dat een agent om tien uur drie klantdossiers opvroeg, zegt weinig. Dat hij dat deed omdat iemand vroeg om een overzicht van openstaande zaken, maakt het beoordeelbaar.

Bewaar dat spoor los van het systeem waar de agent bij kan. Een logboek dat door dezelfde koppeling te wijzigen is, is bij een incident geen bewijs.

• Een agent krijgt de rechten van de medewerker die hem inzet, inclusief alles waar die medewerker toevallig bij mag.
• Een instructie in binnengekomen tekst wordt opgevolgd omdat de agent geen onderscheid maakt tussen data en opdracht.
• Er is geen grens op het aantal handelingen, waardoor een lus onopgemerkt duizenden opvragingen doet.
• Het logboek registreert de handeling maar niet de aanleiding, waardoor achteraf niemand kan zeggen of het terecht was.
• Niemand heeft een knop om alles in één keer uit te zetten.

Zorg dat er één plek is waar u de toegang van een agent volledig kunt intrekken, zonder dat u daarvoor bij vijf systemen langs moet. U heeft hem zelden nodig, en op het moment dat u hem nodig heeft is er geen alternatief.

Test die knop een keer. Een noodrem die nooit is geprobeerd, is een aanname, en dat is precies dezelfde categorie als een back-up die nooit is teruggezet.

Leg daarbij vast wie hem mag gebruiken en wanneer. Bij twijfel moet iemand kunnen ingrijpen zonder eerst toestemming te zoeken; dat is een afspraak die u vooraf maakt, niet tijdens.

• Welke handelingen stelt u beschikbaar, en kunnen wij die per stuk aan- of uitzetten?
• Kunnen wij een aparte identiteit aanmaken voor een agent, met eigen rechten?
• Wat registreert u van elke handeling, en hoe lang bewaart u dat?
• Kunnen wij een limiet instellen op het aantal handelingen per periode?
• Wat gebeurt er met onze gegevens als een agent ze opvraagt: waar gaan ze heen en worden ze bewaard?

Niet bij uw kernsysteem. Begin bij iets waar de gevolgen van een fout overzichtelijk zijn: een kennisbank, een documentenmap, een overzicht dat alleen gelezen wordt. Daar leert u hoe uw mensen ermee werken en waar de scherpe randen zitten.

Wat u in die eerste maanden vooral wilt weten, is niet of het werkt maar wat mensen ermee doen. Agents worden meestal op een andere manier gebruikt dan bedacht, en dat is nuttige informatie voordat u ze bij gevoelige gegevens laat.

Breid daarna uit met één systeem tegelijk, en houd per systeem dezelfde vragen aan. Dat is trager dan alles tegelijk openzetten en het is de enige manier waarop u kunt terugkijken wanneer er iets misgaat.

De meeste beleidsstukken gaan uit van mensen en van systemen. Een agent is geen van beide: hij handelt namens iemand, met de snelheid van een systeem, en hij neemt onderweg beslissingen die niemand heeft geprogrammeerd.

Dat betekent niet dat u een nieuw beleid nodig heeft. Wat u nodig heeft is dat de bestaande regels ook op agents worden toegepast: toegang op basis van noodzaak, een eigen identiteit, registratie van handelingen, periodieke controle of de rechten nog kloppen.

Voeg er één ding aan toe dat bij mensen niet speelt: een grens op tempo. Een medewerker die iets verkeerds doet, doet dat één keer. Een agent doet het duizend keer voordat iemand het merkt.

De winst zit zelden in het automatiseren van een heel proces. Hij zit in het wegnemen van opzoekwerk: iemand die anders drie systemen langs moest om een vraag te beantwoorden, krijgt het antwoord in één keer.

Dat maakt het ook een overzichtelijke investering. U hoeft geen proces te herontwerpen; u geeft toegang tot wat er al is en u kijkt wat mensen ermee doen. Als het niets oplevert, zet u het weer uit.

Waar het echt iets verandert, is bij werk dat nu blijft liggen omdat het te veel gedoe is. Een overzicht dat niemand maakt, een controle die maandelijks zou moeten maar het niet wordt. Dat is de categorie waar u het eerst naar zou kijken.

• AI-agents in uw bedrijfsproces
• Wat u vraagt aan een AI-leverancier
• Systemen koppelen met een API

Wilt u eerst weten of het idee werkt voordat u groot investeert? Bij OneDayBuild laat u in één dag een werkend prototype bouwen.