Kort antwoord: De meeste AI-klantenservice voor webshops valt onder “beperkt risico” in de EU AI Act, wat vooral transparantieverplichtingen met zich meebrengt: klanten moeten weten dat ze met AI communiceren. Zolang je AI geen geautomatiseerde besluiten neemt die aanzienlijke rechtsgevolgen hebben (zoals kredietbeoordeling), gelden er geen zware verplichtingen.
Wat is de EU AI Act precies?
De EU AI Act is de Europese verordening die AI-systemen indeelt naar risiconiveau — van minimaal risico tot verboden toepassingen — met bijbehorende verplichtingen per categorie. Voor de meeste bedrijven die AI-klantenservice gebruiken, is vooral relevant onder welke risicocategorie hun toepassing valt, en welke concrete verplichtingen daarbij horen.
Waar valt AI-klantenservice onder?
AI-klantenservice die klantvragen beantwoordt over orders, retouren en producten valt doorgaans onder “beperkt risico” (limited risk). Deze categorie brengt vooral transparantieverplichtingen met zich mee, geen zware technische of documentatie-eisen zoals bij hoog-risico-systemen.
- Transparantieplicht: klanten moeten weten dat ze met een AI-systeem communiceren, niet met een mens — tenzij dit al voor de hand ligt uit de context.
- Geen zware documentatie-eisen: in tegenstelling tot hoog-risico AI-systemen (zoals AI in sollicitatieprocedures of kredietbeoordeling) gelden er geen uitgebreide risicobeoordelingen of conformiteitsverklaringen.
Wanneer wordt het wél zwaarder?
Als je AI-systeem geautomatiseerde besluiten neemt die aanzienlijke gevolgen hebben voor een klant — bijvoorbeeld het automatisch weigeren van een retour of het beoordelen van een kredietwaardigheid — kan de toepassing in een hogere risicocategorie vallen, met bijbehorende zwaardere verplichtingen. Voor de meeste e-commerce-toepassingen van AI-klantenservice (informatie geven, doorschakelen naar een medewerker bij twijfel) is dit niet aan de orde, mits er altijd een menselijke escalatieroute blijft bestaan voor gevoelige beslissingen.
Wat moet je concreet doen?
- Transparant zijn: maak duidelijk voor de klant dat deze met een AI-assistent communiceert, bijvoorbeeld via een korte melding bij het openen van de chat.
- Menselijke controle inbouwen: zorg dat gevoelige of complexe situaties automatisch worden doorgeschakeld naar een medewerker.
- Documentatie op orde houden: ook bij beperkt risico is het verstandig vast te leggen hoe je AI-systeem werkt en welke data het gebruikt, mocht dit ooit gevraagd worden.
Hoe dit samenhangt met de AVG
De EU AI Act staat niet los van de AVG — beide kunnen tegelijk van toepassing zijn. Waar de AVG gaat over hoe je persoonsgegevens verwerkt, gaat de AI Act over de risico’s van het AI-systeem zelf. Lees meer over hoe wij AI-klantenservice AVG-proof inrichten.