Geautomatiseerde besluitvorming
Computers en algoritmes kunnen door profileringsprocessen geautomatiseerde besluiten nemen. Hierbij wordt kunstmatige intelligentie gebruikt om gebruikersprofielen te vormen, op basis waarvan bedrijven gerichter kunnen adverteren bijvoorbeeld. Dit klinkt nog enigszins onschuldig, echter zijn er ook steeds meer banken die de beoordeling van kredietaanvragen automatiseren en verzekeringsmaatschappijen die dezelfde ontwikkelingen doorgaan wat betreft schadeclaims. Daarnaast wordt het sollicitatieproces door veel bedrijven gedeeltelijk geautomatiseerd, waarbij de computer alvast een selectie maakt uit het aantal ontvangen aanmeldingen. Deze ontwikkelingen roepen vragen op, aangezien profilering en geautomatiseerde besluitvorming steeds meer wordt toegepast op besluiten met een grote impactfactor, die soms zelfs serieuze rechtsgevolgen heeft voor de betrokkene. Wat is het juridische perspectief op dit vraagstuk?
Uw rechten onder de Algemene Verordening Gegevensbescherming
Eén van de grootste risico’s aan profilering en automatische besluitvorming is dat de betrokkene hier vaak niets vanaf weet. Dit kan ertoe leiden dat het systeem onvolledige of foutieve informatie gebruikt en hierdoor onterechte besluiten neemt. En in hoeverre worden betrokkenen beschermd tegen discriminatie wanneer een computer al hun gegevens in hokjes plaatst? Profilering is niet verboden onder de Algemene Verordening Gegevensbescherming (AVG). Toch worden hier enkele eisen aan gesteld, zoals het uitgangspunt dat organisaties een besluit niet geautomatiseerd mogen nemen indien zij dit enkel baseren op geautomatiseerde gegevensverwerking (waaronder profilering). De computer mag de mens dus in beginsel niet vervangen! Enkele uitzonderingssituaties waarin geautomatiseerde besluitvorming wel toegestaan is kunnen zich voordoen indien dit noodzakelijk is voor het uitvoeren van de overeenkomst, het toegestaan is op grond van Nederlandse of Europese wetgeving, of er uitdrukkelijk toestemming is gegeven door de betrokkene. Het wordt echter zelfs in deze uitzonderingssituaties verwacht dat de organisatie maatregelen neemt die de rechten en belangen van de betrokkenen beschermen in dit geautomatiseerde proces. Denk hierbij aan de mogelijkheid om menselijke tussenkomst aan te vragen of een bepaald standpunt wat betreft het besluit kenbaar te maken. In het geval van geautomatiseerde besluitvorming omtrent kinderen gelden dergelijke uitzonderingen niet. Ook zijn er specifieke voorwaarden met betrekking tot de categorie bijzondere persoonsgegevens, zoals uw gezondheidsgegevens.
Vermoedt u dat uw rechten of belangen geschonden zijn door middel van geautomatiseerde besluitvorming of profilering?
Of heeft u andere juridische vragen omtrent dit onderwerp? Neem dan direct contact met ons op.