AI en geautomatiseerde besluitvorming

Share on facebook
Share on twitter
Share on linkedin

Besluitvorming wordt steeds meer geregeld via geautomatiseerde processen. Dit komt met name door de enorme hoeveelheid beschikbare data, de technologische ontwikkeling van Artificial Intelligence (AI) en de aanname dat een ‘machine’ objectiever en rationeler ‘oordeelt’ dan een menselijk adviseur. Toch worden er ook twijfels gezet bij het automatiseren van besluitvorming, omdat men waakt voor manipulaties van systemen en eventuele onaanvaardbare, of foutieve resultaten.  

Ook in de juridische besluitvorming speelt dit vraagstuk. Geven we de voorkeur aan een menselijke of digitale rechter? Welke bedrijven en instanties gebruiken geautomatiseerde besluitvorming? En hoe worden uw rechten en belangen als betrokkene in zulke situaties voldoende gewaarborgd?  

Geautomatiseerde besluitvorming 

Computers en algoritmes kunnen door profileringsprocessen geautomatiseerde besluiten nemen. Hierbij wordt kunstmatige intelligentie gebruikt om gebruikersprofielen te vormen, op basis waarvan bedrijven gerichter kunnen adverteren bijvoorbeeld. Dit klinkt nog enigszins onschuldig, echter zijn er ook steeds meer banken die de beoordeling van kredietaanvragen automatiseren en verzekeringsmaatschappijen die dezelfde ontwikkelingen doorgaan wat betreft schadeclaims. Daarnaast wordt het sollicitatieproces door veel bedrijven gedeeltelijk geautomatiseerd, waarbij de computer alvast een selectie maakt uit het aantal ontvangen aanmeldingen. Deze ontwikkelingen roepen vragen op, aangezien profilering en geautomatiseerde besluitvorming steeds meer wordt toegepast op besluiten met een grote impactfactor, die soms zelfs serieuze rechtsgevolgen heeft voor de betrokkeneWat is het juridische perspectief op dit vraagstuk? 

Uw rechten onder de Algemene Verordening Gegevensbescherming 

Eén van de grootste risico’s aan profilering en automatische besluitvorming is dat de betrokkene hier vaak nietvanaf weet. Dit kan ertoe leiden dat het systeem onvolledige of foutieve informatie gebruikt en hierdoor onterechte besluiten neemt. En in hoeverre worden betrokkenen beschermd tegen discriminatie wanneer een computer al hun gegevens in hokjes plaatst? Profilering is niet verboden onder de Algemene Verordening Gegevensbescherming (AVG). Toch worden hier enkele eisen aan gesteld, zoals het uitgangspunt dat organisaties een besluit niet geautomatiseerd mogen nemen indien zij dit enkel baseren op geautomatiseerde gegevensverwerking (waaronder profilering). De computer mag de mens dus in beginsel niet vervangen! Enkele uitzonderingssituaties waarin geautomatiseerde besluitvorming wel toegestaan is kunnen zich voordoen indien dit noodzakelijk is voor het uitvoeren van de overeenkomst, het toegestaan is op grond van Nederlandse of Europese wetgeving, of er uitdrukkelijk toestemming is gegeven door de betrokkene. Het wordt echter zelfs in deze uitzonderingssituaties verwacht dat de organisatie maatregelen neemt die de rechten en belangen van de betrokkenebeschermen in dit geautomatiseerde proces. Denk hierbij aan de mogelijkheid om menselijke tussenkomst aan te vragen of een bepaald standpunt wat betreft het besluit kenbaar te maken. In het geval van geautomatiseerde besluitvorming omtrent kinderen gelden dergelijke uitzonderingen niet. Ook zijn er specifieke voorwaarden met betrekking tot de categorie bijzondere persoonsgegevens, zoals uw gezondheidsgegevens.  

Vermoedt u dat uw rechten of belangen geschonden zijn door middel van geautomatiseerde besluitvorming of profilering? Of heeft u andere juridische vragen omtrent dit onderwerp? Neem dan direct contact met ons op. 

Inhoudsopgave

Ontmoet Jurigen

Onze slimme tool voor het opstellen van juridische documenten!
BETA
Scroll naar top