DIGITALE ARBEIDSMARKTDISCRIMINATIE - Rijksoverheid

DIGITALE

ARBEIDSMARKTDISCRIMINATIE

Inzicht in de risico’s op arbeidsmarktdiscriminatie door de inzet van

recruitment technologieën in werving en selectie.

Rapportage voor

Inspectie SZW

23 december 2019

Copyright © 2019 TNO Den Haag Alle rechten voorbehouden. De informatie in dit document mag niet zonder de schriftelijke toestemming van TNO aan derden ter inzage of beschikking worden gesteld en mag door de opdrachtgever uitsluitend worden gebruikt ter evaluatie van deze rapportage en van zijn/haar belang bij de verlening van de opdracht.

DIGITALE

ARBEIDSMARKTDISCRIMINATIE

Inzicht in de risico’s op arbeidsmarktdiscriminatie door de inzet

van recruitment technologieën in werving en selectie.

Rapport voor Inspectie SZW

Datum 23 december 2019

Auteurs dr. Francisca Grommé

drs. Sophie Emmert

dr. Noortje Wiezer

dr. Claartje Thijs

Projectnummer 060.38187/01.02.03

Rapportnummer TNO 2019 R12077

Contact TNO Sophie Emmert

Telefoon 0652803644

E-mail [email protected]

Copyright © 2019 TNO Den Haag 3 Alle rechten voorbehouden. De informatie in dit document mag niet zonder de schriftelijke toestemming van TNO aan derden ter inzage of beschikking worden gesteld en mag door de opdrachtgever uitsluitend worden gebruikt ter evaluatie van deze rapportage en van zijn/haar belang bij de verlening van de opdracht.

Inhoudsopgave

1 Samenvatting ................................................................................................................. 5 1.1 Doel en opzet ................................................................................................................. 5 1.2 Beantwoording van de onderzoeksvragen..................................................................... 6 1.3 Aanbeveling ................................................................................................................. 10

2 Introductie..................................................................................................................... 11 2.1 Aanleiding..................................................................................................................... 11 2.2 Opdracht en hoofdvragen ............................................................................................ 11 2.3 Aanpak van het onderzoek .......................................................................................... 12 2.3.1 Focus en afbakening .................................................................................................... 12

2.3.2 Aanpak van het onderzoek .......................................................................................... 12

2.3.3 Literatuurscan .............................................................................................................. 12

2.3.4 Analyse juridische kader .............................................................................................. 12

2.3.5 Internet search ............................................................................................................. 13

2.3.6 Discussietafel en interviews met (intermediaire) partijen betrokken bij het werving

en selectieproces. ........................................................................................................ 13

2.4 Leeswijzer .................................................................................................................... 14

3 Belangrijkste begrippen ................................................................................................ 15 3.1 Discriminatie ................................................................................................................. 15 3.2 Het recruitmentproces .................................................................................................. 17 3.2.1 Fasen in het recruitmentproces ................................................................................... 17

3.2.2 Actoren in het wervings- en selectieproces ................................................................. 17

4 Literatuurscan .............................................................................................................. 19 4.1 Inleiding ........................................................................................................................ 19 4.2 Discriminatie bij de toepassing van recruitment technologieën ................................... 20 4.2.1 De werking van algoritmes ........................................................................................... 20

4.2.2 De werking van algoritmes in het adverteren van vacatures ....................................... 22

4.2.3 Selectie en screening door HR-professionals en recruiters ......................................... 24

4.2.4 Verschillen in digitale vaardigheden en posities in digitale netwerken ........................ 26

4.2.5 Communicatie door werkgevers................................................................................... 26

4.2.6 Ongelijkheid in (informatie)positie tussen werkzoekenden en werkgevers ................. 26

4.2.7 Automation bias ........................................................................................................... 27

4.3 Concluderend ............................................................................................................... 27


5 Recruitment technologieën in de praktijk ..................................................................... 28 5.1 Het speelveld ............................................................................................................... 28 5.2 Nieuwe recruitment technologieën ............................................................................... 29 5.2.1 Voorbeelden van recruitmenttechnologie gericht op actieve benadering van een

doelgroep .................................................................................................................. 31

5.2.2 Voorbeelden van recruitmenttechnologie gericht het selecteren en beoordelen van

kandidaten .................................................................................................................. 34

5.3 Risico’s: versterken van bias in selectie ...................................................................... 38 5.3.1 Wat zegt de praktijk over het gebruik van recruitment technologie ............................. 40

5.4 Wijzen waarop recruitment technologieën worden ingezet ......................................... 40 5.5 Inschatting van risico’s door gebruikers van recruitment technologie ......................... 42 5.6 Conclusies: wat zien we in de praktijk? ....................................................................... 43

6 Juridische verkenning .................................................................................................. 45 6.1 Concluderend ............................................................................................................... 47 6.2 Wat zijn de juridische randvoorwaarden voor de inzet van digitale instrumenten en

systemen in het recruitmentproces? ............................................................................ 48 6.2.1 Wettelijk kader .............................................................................................................. 50

7 Conclusies en aanbevelingen ...................................................................................... 51 7.1 Welke recruitment technologieën ondersteunen het wervings- en selectieproces op

dit moment en hoe werken deze recruitment technologieën? ..................................... 51 7.2 Op welke wijzen worden deze recruitment technologieën ingezet door

(intermediaire) partijen die betrokken zijn bij het wervings- en selectieproces? .......... 52 7.3 Wat zijn de juridische randvoorwaarden voor de inzet van digitale instrumenten en

systemen in het recruitmentproces? ............................................................................ 54 7.4 Op welke wijzen kunnen digitale systemen en instrumenten tot discriminatie leiden

bij werving en selectie? ................................................................................................ 55 7.4.1 Risico’s op uitsluiting en discriminatie .......................................................................... 56

7.4.2 Risicofactoren .............................................................................................................. 57

7.5 Aanbevelingen ............................................................................................................. 60 7.5.1 Bewustwording ............................................................................................................. 60

7.5.2 Validatie en controle ..................................................................................................... 60

7.5.3 Wettelijk kader .............................................................................................................. 60

7.5.4 Vervolgonderzoek ........................................................................................................ 60

7.6 Tot slot .......................................................................................................................... 61

Referenties .................................................................................................................................. 63

A Bijlage: Interviewprotocol ............................................................................................. 69

B Bijlage: Juridisch kader ................................................................................................ 75

C Bijlage: Benelux Recruitment Tech Landscape 2020 .................................................. 87


1 Samenvatting

Het Actieplan Arbeidsmarktdiscriminatie1 stimuleert gelijke behandeling op de arbeidsmarkt

voor een duurzame arbeidsmarkparticipatie van alle Nederlanders. In dit kader heeft TNO in

opdracht van het Ministerie van Sociale Zaken en Werkgelegenheid een verkenning naar

Digitale Arbeidsmarktdiscriminatie uitgevoerd. De focus van dit rapport is het risico op

discriminatie bij de inzet van digitale middelen die het proces van werving en selectie

ondersteunen maar waarbij gemerkt of ongemerkt, bewust of onbewust sprake kan zijn van

discriminatie. Deze middelen kunnen relatief eenvoudig zijn, zoals query gebaseerde

databases, maar ook innovatieve recruitmenttechnologieën zoals geavanceerde chatrobots,

video-interviewsystemen en online assessmenttools.

1.1 Doel en opzet

Het doel van de verkenning is om een breder inzicht te verkrijgen in het gebruik van

recruitmenttechnologieën bij werving en selectie van werknemers; in de wijzen waarop deze

methoden worden ingezet; en wat de risico’s op discriminatie en uitsluiting zijn bij het gebruik

van dergelijke technologieën.

De volgende vragen staan centraal in het onderzoek:

1. Welke recruitmenttechnologieën ondersteunen het wervings- en selectieproces op dit

moment en hoe werken deze recruitmenttechnologieën?

2. Op welke wijzen worden deze recruitmenttechnologieën ingezet door (intermediaire)

partijen die betrokken zijn bij het wervings- en selectieproces?

3. Wat zijn de juridische randvoorwaarden voor de inzet van digitale instrumenten en

systemen in het recruitmentproces?

4. Op welke wijzen kunnen recruitmenttechnologieën tot discriminatie leiden bij werving en

selectie?

Op basis van deze vragen hebben we verkend of het gebruik van recruitmenttechnologieën

nieuwe risico’s op discriminatie opleveren of al bestaande risico’s versterken. Dat betekent dat

de mogelijkheden die recruitmenttechnologieën bieden om discriminatie te voorkomen

grotendeels buiten de scope van het onderzoek vallen. Ook tools die zijn ontworpen om

discriminatie te voorkomen vallen buiten het onderzoek. Wij hebben relatief bekende

technologieën zoals cv databanken betrokken in het onderzoek, maar in de verkenning van

het aanbad hebben wij de nadruk gelegd op een ‘nieuwe generatie’ recruitmenttechnologieën.

Om de onderzoeksvragen te beantwoorden zijn de volgende onderzoeksactiviteiten

uitgevoerd:

› Literatuurscan: op basis van recent onderzoek uitgevoerd door universiteiten,

onderzoeksjournalisten en burgerrechtenorganisaties geeft de scan een eerste inzicht

van de mogelijke oorzaken en factoren die een rol spelen bij digitale

arbeidsmarktdiscriminatie, zonder uitputtend te zijn.

1 https://www.rijksoverheid.nl/documenten/kamerstukken/2018/06/19/hoofdlijnenbrief-actieplan-arbeidsmarktdiscriminatie-2018-%E2%80%93-2021.


› Juridische analyse: het juridische kader met betrekking tot de eisen die aan werving en

selectie worden gesteld omvat wetgeving rond gelijke behandeling en de verwerking van

persoonsgegevens bij werving en selectie. Deze wettelijke kaders zijn in kaart gebracht.

Daarnaast is een analyse uitgevoerd naar de voorwaarden die gesteld worden door de

Algemene verordening gegevensbescherming (AVG). Deze zijn van belang met name

daar waar het om geautomatiseerde besluitvorming gaat, inclusief profilering.

› Internet search: met behulp van online zoekmachines is een overzicht gegenereerd van

het type technologieën dat gebruikt wordt voor verschillende fasen in het

recruitmentproces en de kenmerken van deze technologieën, zonder uitputtend te zijn.

Om meer inzicht te krijgen in het type technologie zijn de betreffende websites van

ontwikkelaars, adviesbureaus en distributeurs bekeken om meer te weten te komen over

het doel en de werking van deze instrumenten en wie tot de klantenkring van deze

aanbieders behoren.

› Veldonderzoek: op basis van elf interviews en een discussietafel met (intermediaire)

partijen die betrokken zijn bij het recruitmentproces, zijn de bevindingen uit de

literatuurscan en de internet search getoetst en aangescherpt.

1.2 Beantwoording van de onderzoeksvragen

Welke recruitmenttechnologieën ondersteunen het wervings- en selectieproces op dit

moment en hoe werken deze recruitmenttechnologieën?

Er is momenteel een ruim aanbod aan recruitmenttechnologie beschikbaar op de markt, voor

alle fasen van het recruitmentproces. Veel van het aanbod in Nederland wordt geleverd door

internationaal opererende technologieleveranciers en adviesbureaus, vaak in samenwerking

met Nederlandse werkgevers, recruitmentbureaus en uitzendbureaus. Belangrijke drijfveren

voor organisaties om recruitmenttechnologieën in te zetten zijn veranderingen op de

arbeidsmarkt, zoals krapte door het vertrek van babyboomers en de intrede van ‘millennials’

(geboren tussen 1981-2000) die digitaal zijn opgegroeid. De geïnterviewde recruiters zijn over

het algemeen enthousiast over de toepassing van recruitmenttechnologieën, omdat het

gebruik hen mogelijkheden biedt om recruitmentprocessen efficiënter in te richten en de time

to hire verkorten, het bereik van potentiele kandidaten te vergroten en de zoektocht naar

geschikte kandidaten meer specifiek te maken.

Als we kijken naar de functionaliteit van de recruitmenttechnologieën, zien we grofweg twee

categorieën waarvoor deze ‘nieuwe generatie’ digitale tools en instrumenten momenteel

worden ingezet:

› Actieve en gerichte benadering van een doelgroep

Het gaat hier om diverse technologieën die worden ingezet om op gepersonaliseerde

wijzen organisaties en online vacatures onder de aandacht van potentiële kandidaten te

brengen en zo kandidaten te werven. Hieronder verstaan we ook social media recruting,

dat wil zeggen het gebruik van social media en sociale netwerken door werknemers om

sollicitanten te bereiken. Voor het digitaal kunnen benaderen van specifieke doelgroepen

maken social media recruitmenttechnologieën gebruik van het online zoekgedrag van

mensen. Daarnaast zien we dat tools in deze categorie ook gebruikmaken van een

databases met profielinformatie (zoals een cv) die kandidaten online hebben gezet.


Op basis van kenmerken of sleutelwoorden kunnen kandidaten automatisch uit een

enorme hoeveelheid data worden gekoppeld aan een bepaalde vacature en benaderd

worden.

› Beoordeling en selecteren van kandidaten met behulp van recruitmenttechnologie

Hier verstaan we technologieën onder die worden ingezet om kandidaten online te

beoordelen of selecteren. Dit kunnen bijvoorbeeld geavanceerde chatbots zijn die na het

doornemen van standaardvragen kandidaten kunnen aanbevelen voor een

sollicitatiegesprek. Daarnaast zijn er ook recruitmenttechnologieën gericht op gesproken

of geschreven tekst, zoals video-interviews of geautomatiseerde tekstanalyse. Online

assessments of serious games worden gebruikt om te beoordelen, algoritmes in

zoekmachines worden gebruikt om te selecteren.

Het zijn op dit moment vooral de grotere bedrijven en intermediairs (de ‘voorlopers’) die met

name voor het werven en (pre)selecteren van potentiele kandidaten gebruikmaken van

recruitmenttechnologie.

Op welke wijzen worden deze recruitmenttechnologieën ingezet door (intermediaire)


Recruitmenttechnologieën worden momenteel zowel gebruikt voor het werven en selecteren

van grotere groepen medewerkers, zoals bijvoorbeeld voor callcenters en personeel in

winkelketens, als voor potentiële kandidaten voor moeilijk opvulbare vacatures. Hierbij geven

de geïnterviewde werkgevers en intermediairs geven over het algemeen aan diversiteit op de

werkvloer te willen bevorderen en besteden hier actief aandacht aan in hun personeelsbeleid

(bijvoorbeeld door de ontwikkeling van een ‘diversity dashboard’).

Recruitmenttechnologie wordt momenteel op gangbare wijze ingezet voor:

› Social media recruting: gepersonaliseerde online campagnes via Facebook en LinkedIn.

› Matching van vraag en aanbod op basis van online databases, via specifieke online

matchingtools of functionaliteiten van Facebook en LinkedIn.

› (Pre)selectie van potentiele kandidaten, bijvoorbeeld door het automatiseren van ‘killer

questions’ als ‘bent u beschikbaar?’, ‘bent u bereid om in een bepaalde stad of regio te

werken?’, via een chatrobot of door het afnemen van online assessments.

Geïnterviewde recruiters benadrukken dat recruitmenttechnologie gebruikt wordt ter

ondersteuning van menselijk handelen, als zogenoemde ‘decision support’. Echter, door het

gebruik van bijvoorbeeld advertentieprofielen van Facebook, of door matchingsfuncties van

LinkedIn kan het zijn dat er voorselectie plaatsvindt voordat een mens betrokken raakt.

Door het gebruik van recruitmenttechnologieën is het speelveld van partijen direct of indirect

betrokken bij werving en selectie uitgebreid. Recruitmenttechnologieën verzamelen slechts

data, de analyses van deze data worden gedaan door speciale analisten en consultants.

De nieuwe partijen op het speelveld hebben een andere achtergrond en expertise dan de

traditionele partijen. Spelers wiens expertise niet ligt op het terrein van werving en selectie

(reclame bureaus, social media platformen) zijn wellicht minder gefocust op de vormen van

discriminatie die bij werving en selectie kunnen voorkomen. Daarnaast constateren we dat

social media platformen niet ontwikkeld zijn met als doel het werven en selecteren van

kandidaten te ondersteunen, maar worden er wel voor gebruikt.


Wat zijn de juridische randvoorwaarden voor de inzet van digitale instrumenten en


Uit de inventarisatie van verschillende nieuwe recruitmenttechnologieën voor werving en

selectie kan worden afgeleid dat er in het algemeen sprake is van de verwerking van

persoonsgegevens waarbij het ook kan voorkomen dat zogenaamde ‘gevoelige’

persoonsgegevens verwerkt worden (echter, dit rapport heeft dit niet per instrument

geanalyseerd. Hier wordt slechts geconstateerd dat dit mogelijk is). Voorbeelden van

bijzondere, per definitie gevoelige, gegevens zijn gezondheid, ras of etnische afkomst,

religieuze of levensbeschouwelijke overtuigingen, seksuele gerichtheid.

Traditioneel spelen de wetten gelijke behandeling een belangrijke rol in het aan de kaak stellen

van directe of indirecte vormen van discriminatie bij het arbeidsproces. Door het

samenbrengen van verschillende gegevenssoorten ontstaan profielen die gebruikt kunnen

worden voor de beoordeling van bijvoorbeeld de geschiktheid van nieuwe kandidaten. Te

denken is aan het beoordelen van gelaatsuitdrukkingen, waarbij culturele elementen een rol

kunnen spelen. Als dergelijke specifieke karakteriseringen worden meegenomen in de

beoordeling kan sprake zijn van een indirecte vorm van discriminatie.2 De wetten gelijke

behandeling bieden mogelijkheden om deze vormen van discriminatie aan te pakken. De AVG

voegt daar een nieuw instrumentarium aan toe.

De AVG vereist dat er een legitieme grondslag kan worden aangevoerd voor de verwerking

van persoonsgegevens. Het afsluiten van een contract – waaronder werving en selectie ook

geschaard kan worden – kan als legitieme grondslag worden aangevoerd. Een tweede

mogelijkheid om tot een grondslag te komen biedt het moeten voldoen aan een wettelijke

verplichting. Zo’n verplichting kan ook blijken uit een collectieve overeenkomst. Een derde

mogelijkheid is als de betrokkene de informatie ‘kennelijk’ (in het Engels: manifestly, ofwel

nadrukkelijk) openbaar heeft gemaakt. Het gaat dan om informatie die al ergens aanwezig is

en dan voor verdere verwerking gebruikt wordt (te denken valt aan informatie op social

media?). Als sprake is van geautomatiseerde besluitvorming spelen er nog strengere eisen.

In algemene zin zal goed nagegaan moeten worden of de beoogde aanpak van de werving

en selectie voldoet aan de eisen en randvoorwaarden die vanuit de AVG en de Uitvoeringswet

algemene verordening gegevensbescherming (UAVG) gesteld worden. Waar sprake is van

de verwerking van gevoelige gegevens zal goed nagegaan moeten worden of er een grond

gevonden kan worden voor de verwerking. Is er sprake van volledig geautomatiseerde

besluitvorming waarbij gevoelige gegevens worden verwerkt, dan is de verwerking niet

toegestaan. Dit laat onverlet dat ook alle bestaande anti-discriminatie wetgeving en

toezichthoudende organisaties (zoals het College voor de Rechten van de Mens) eveneens

een rol zullen blijven spelen.

2 In deze verkenning zijn geen werkgevers of intermediairs gesproken die deze technologie al

toepassen. Eén geïnterviewde partij gaf aan dergelijke technologieën te testen, maar nog niet geschikt te bevinden voor gebruikt. Uit de internetsearch ontstaat het beeld dat andere werkgevers, zoals HunkeMöller, wel gebruik maken van dergelijke analyses.


Op welke wijzen kunnen recruitmenttechnologieën tot discriminatie leiden bij werving

en selectie?

Bestaande literatuur heeft zowel oorzaken in de werking van algoritmes beschreven, het

gedrag van recruiters bij het gebruik van cv databanken en faciliterende factoren zoals

verschillen in digitale vaardigheden. Daarbij kunnen nog tal van andere factoren een rol

spelen, zoals de wijze waarop recruitmenttechnologieën zonder onafhankelijk vooronderzoek

in gebruik genomen kunnen worden (zie Ruckenstein, 2019). Ook is er minder bekend over

de risico’s bij het gebruik van specifieke technologieën, zoals emotieherkenning in video-

interviews – al kan daarbij verondersteld worden dat ook hier problemen gerelateerd aan het

gebruik van algoritmes spelen (Thiel, 2019).

Het gebruik van recruitment technologieën kan het risico op discriminatie en uitsluiting

versterken. We beschrijven twee groepen scenario’s waarin we risico’s op discriminatie

inzichtelijk maken:

› Groep 1: Risico’s bij het gebruik van recruitmenttechnologie voor de actieve en gerichte

benadering van een doelgroep.

› Groep 2: Risico’s bij het gebruik van recruitmenttechnologie bij het beoordelen en

selecteren van kandidaten.

Daarnaast hebben we 6 factoren geïdentificeerd die deze risico’s kunnen versterken of

veroorzaken.

1. Gebrek aan kennis over technologie en gebrek aan bewustzijn van risico’s bij gebruik van

technologieën.

2. Gebruik van technologieën ondanks gebrek aan (transparante) validatie.

3. Gebrek aan overzicht over het proces door werkgevers.

4. Gebrek aan transparantie voor de kandidaat.

5. Kenmerken van de systemen die het risico op discriminatie kunnen vergroten: informatie

aanbod.

6. Kenmerken van de systemen die het risico op discriminatie kunnen vergroten: bias in

toepassing van algoritmen.

Bij deze conclusie is het van belang om de kanttekening te maken dat veel van de

geïnterviewden zich bewust zijn van het belang van diversiteit van de werkvloer en hier actief

aandacht aan besteden. Dat doen zij bijvoorbeeld door in video interviews veel aandacht te

besteden aan het overbrengen van een beeld van de werkvloer dat zoveel mogelijk inclusief

is. In online assessments zeiden geïnterviewden vragen te formuleren op een wijze die zo min

mogelijk uitsluiting tot gevolg heeft (bijv. door te vragen naar waarden). Assessmentbureaus

zijn zich ook bij de ontwikkeling van hun testen bewust dat taalvaardigheid en culturele

verschillen scores kunnen beïnvloeden en hebben hier tests voor ontwikkeld. Voor veel

werkgevers is het bovendien ook van belang om kandidaten uit een internationale pool aan te

trekken. In deze conclusie benadrukken wij daarom de risico’s die kunnen ontstaan bij gebruik

van nieuwe recruitmenttechnologieën desondanks deze aandacht aan inclusiviteit. Dit is mede

van belang om de aandacht op deze risico’s te verscherpen bij de mogelijke groei van het

gebruik buiten de ‘voorlopers’.


1.3 Aanbeveling

› Vergroten bewustwording risico’s op discriminatie door gebruik

recruitmenttechnologie. De eerste stap om risico’s op discriminatie bij het gebruik van

recruitmenttechnologieën te beperken is het vergroten van het bewustzijn en kennis van

de risicofactoren.

› Validatie en controle. Het verdient de aanbeveling werkgevers en intermediairs te

stimuleren alleen gevalideerde recruitmenttechnologieën voor selectie en beoordeling in

te zetten. Hier zou de Inspectie SZW bedrijven ook toe kunnen aansporen en controleren.

› Juridisch kader. Gebruikers van recruitment technologieën zullen de risico’s op

ongeoorloofd gebruik van beschermde persoonsgegevens moeten controleren en

verminderen (met behulp van een data protection impact assessment, of DPIA). Omdat

de Algemene wet gelijke behandeling (AWGB) meer bescherming biedt aan

werkzoekenden dan de AVG, zal onderzocht moeten worden welke aanvullende

activiteiten een gebruiker van de recruitment technologieën nog zal moeten ondernemen

om aan de vergewisplicht te voldoen.

› Vervolgonderzoek. Om de risico’s en risicofactoren bij het gebruik van

recruitmenttechnologieën is onderzoek nodig onder een bredere groep actoren dan bij

deze verkenning mogelijk was; hierbij zou ook aandacht besteed kunne worden aan de

ervaringen van werkzoekenden. Vervolgonderzoek zou zich ook moeten richten op het

verbeteren van gebruik van bestaande instrumenten, zoals de DPIA en input-output

analyses. Tot slot is er nader onderzoek naar de toepassing van landelijke wettelijke

kaders, met name over de vraag of op de vraag of aan de vergewisplicht vanuit art 12c

(Conceptwetsvoorstel toezicht discriminatievrije werving en selectie) is voldaan, wanneer

een werkgever aan de verplichtingen vanuit de AVG voldoet.

Tot slot: in dit rapport hebben wij ons gericht op de risico’s op discriminatie. De focus was te

onderzoeken hoe bedrijven zich, ook met het gebruik van recruitment technologie, aan de wet

gelijke behandeling kunnen houden en hoe gecontroleerd kan worden of ze dat doen. Maar

naast het feit dat het gebruik van deze technologie het risico kan vergroten dat bedrijven zich

niet aan de wet houden, verandert het gebruik van technologie ook de relatie en verhouding

tussen werkzoekenden en werkgevers. Zo kunnen onderdelen van het proces minder

inzichtelijk worden en kan er door preselectie pas later de mogelijkheid bestaan voor

werkzoekenden om met werkgevers in contact te komen (en input te leveren in het

sollicitatieproces). Over deze veranderingen is niet alleen een juridische- maar ook een

maatschappelijke discussie wenselijk.


2 Introductie

2.1 Aanleiding

Gelijke behandeling op de arbeidsmarkt is nodig voor een duurzame arbeidsmarkparticipatie

van alle Nederlanders. Als onderdeel van het Actieplan Arbeidsmarkdiscriminatie wordt

onderzoek gedaan naar de aard en onderliggende oorzaken van arbeidsmarktdiscriminatie en

de wijze waarop hier effectief tegen opgetreden kan worden door partijen als werkgevers,

recruiters en de overheid. In dit kader is vorig jaar een eerste inventarisatie gemaakt van de

huidige gang van zaken in werving en selectie en trends die zichtbaar zijn (zie TNO rapport

‘Risico’s voor Discriminatie bij Werving en Selectie Huidige Gang van Zaken en Trends’

(2018)) Op basis van deze inventarisatie is een verandering geconstateerd op de

arbeidsmarkt: het gebruik van digitale tools en automatisering in het recruitmentproces neemt

toe.

Het is van belang om inzicht te krijgen in hoe deze ontwikkeling zich verhoudt tot het risico op

discriminatie en uitsluiting en hoe hierop geanticipeerd moet worden door ontwerpers van

deze systemen en algoritmes, gebruikers en de overheid. Met name bij de inzet van digitale

tools waarin gebruikgemaakt wordt van artificiële intelligentie (AI) rijst de maatschappelijke

vraag in hoeverre deze tools reeds bestaande patronen van discriminatie zouden kunnen

versterken en wellicht ook nieuwe vormen van uitsluiting teweeg zouden kunnen brengen.

2.2 Opdracht en hoofdvragen

Hoewel er steeds meer bekend wordt over de risico’s van voorspellende instrumenten,3 weten

we minder over de inzet en rol van digitale tools in het wervings- en selectieproces, op welke

wijzen deze worden gebruikt, en door wie zij worden gebruikt. In het kader van het TNO

kennisinvesteringsprogramma dat is ontwikkeld in samenspraak met de Inspectie SZW van

het Ministerie van Sociale Zaken en Werkgelegenheid (SZW) voert TNO een verkenning uit

met als doel een breder inzicht te verkrijgen in het gebruik van recruitment technologieën bij

werving en selectie van werknemers; in de wijzen waarop deze methoden worden ingezet; en

hoe dit tot discriminatie kan leiden.

De volgende vragen staan centraal in het onderzoek:

1. Welke recruitment technologieën ondersteunen het wervings- en selectieproces op dit

moment en hoe werken deze recruitment technologieën?

2. Op welke wijzen worden deze recruitment technologieën ingezet door (intermediaire)




4. Op welke wijzen kunnen recruitment technologieën tot discriminatie leiden bij werving en

selectie?

3 Zie bijvoorbeeld het rapport ‘Beschaafde Bits’ van het Rathenau Instituut (Hamer en Kool, 2018).


2.3 Aanpak van het onderzoek

2.3.1 Focus en afbakening

De focus ligt in dit project op digitale systemen en instrumenten die worden ingezet in de

ondersteuning van werving en selectieprocessen (recruitment technologieën). We

onderzoeken of het gebruik van recruitment technologieën nieuwe risico’s op discriminatie

opleveren of al bestaande risico’s versterken. Daarbij gaat dit onderzoek in het bijzonder over

de risico’s op discriminatie die deze recruitment technologieën veroorzaken of versterken. Dat

betekent dat de mogelijkheden die recruitment technologieën bieden om discriminatie te

voorkomen grotendeels buiten de scope van het onderzoek vallen (tenzij specifiek benoemd

door respondenten). Ook tools die specifiek zijn ontworpen om discriminatie te voorkomen.4

vallen dus buiten het onderzoek.

Het onderzoek beslaat het gehele wervings- en selectieproces; vanaf het moment dat een

werkgever zich positioneert op de arbeidsmarkt tot de selectie van de kandidaat. Wij richten

ons op recruitment technologieën die worden ingezet met het doel een persoon in loondienst

aan te nemen. Hiermee vallen ‘platform’ werkgevers (zoals Uber) die personen rekruteren

voor betaalde diensten in zzp-achtige constructies of ‘gigs’ buiten dit onderzoek.

2.3.2 Aanpak van het onderzoek

Om de onderzoeksvragen te beantwoorden zijn de volgende onderzoeksactiviteiten

uitgevoerd:

1. Een scan van literatuur over (gebruik van) recruitment technologieën.

2. Een analyse van het juridische kader.

3. Een internet search naar verschillende recruitment technologieën (vaak aanbiedende

partijen), gebruikers van deze technologieën (doorgaans grotere organisaties) en

opiniestukken over recruitment technologieën in HR vakliteratuur, op kennisplatformen en

branche verenigingen.

4. Een discussietafel en interviews met (intermediaire) partijen betrokken bij het wervings-

en selectieproces.

2.3.3 Literatuurscan

De literatuurscan behandelt recent onderzoek uitgevoerd door universiteiten,

onderzoeksjournalisten en burgerrechtenorganisaties dat inzicht geeft in de wijzen waarop er

een risico op discriminatie kan ontstaan bij het gebruik van recruitment technologieën. De

literatuurscan (Hoofdstuk 4) beoogt een eerste inzicht te geven in de mogelijke oorzaken en

factoren die een rol spelen, zonder uitputtend te zijn. In de behandeling van de literatuur

beperken wij ons tot onderzoek, vanuit een sociaalwetenschappelijke (of verwante)

invalshoek, dat direct betrekking heeft op werving en selectie.

2.3.4 Analyse juridische kader

Het juridische kader met betrekking tot de eisen die aan werving en selectie worden gesteld

omvat wetgeving rond gelijke behandeling en de verwerking van persoonsgegevens bij

werving en selectie. Van belang hierbij zijn het Europese Handvest voor de Rechten van de

Mens, de Algemene Verordening Gegevensbescherming (AVG; geeft aan onder welke

voorwaarden verwerking van – gevoelige – persoonsgegevens is toegestaan) en de

Nederlandse implementatie ervan in de Uitvoeringswet AVG, en de wetten die zich richten op

4 Zie Bogen en Rieke (2018) voor voorbeelden.


gelijke behandeling. Gedragscodes die zijn opgesteld rond werving en selectie completeren

de juridische randvoorwaarden. De uitvoerige analyse beperkt zich tot wat de AVG aan

voorwaarden en eisen stelt. De AVG en de Nederlandse implementatie de UAVG stelt ten

opzichte van hun voorgangers (de Europese privacyrichtlijn en de Nederlandse Wet

bescherming persoonsgegeven) aanvullende eisen. Deze zijn van belang met name daar

waar het om geautomatiseerde besluitvorming gaat, inclusief profilering. Zoals uit de analyse

naar voren zal komen, is het niet uit te sluiten dat bepaalde vormen van werving en selectie

tegen de nieuwe en aangescherpte eisen aan zullen lopen.

2.3.5 Internet search

Om een beeld te krijgen van de werking en het gebruik van nieuwe recruitment technologieën

is op internet gezocht naar het aanbod. Doel van deze scan is een overzicht te genereren van

het type technologieën dat gebruikt wordt voor verschillende fasen in het werving en

selectieproces en de kenmerken van deze technologieën. De search is gestart met

zoektermen als ‘recruimenttechnologie’, ‘HR software’, ‘tools voor werving en selectie’. Daar

werden tal van digitale systemen en instrumenten genoemd. Om meer inzicht te krijgen in het

type technologie zijn de betreffende websites van ontwikkelaars, adviesbureaus en

distributeurs bekeken om meer te weten te komen over het doel en de werking van deze

instrumenten en wie tot de klantenkring van deze aanbieders behoren. Vervolgens zijn de

sites van de genoemde werkgevers bezocht om te kijken hoe zij bijvoorbeeld hun

sollicitatieproces beschrijven. Daarnaast is er gezocht in de media, HR vakbladen, een

handboek (Valkenburg 2018) en op kennisplatformen om meer achtergrondinformatie te

vinden over deze bedrijven en hun gebruik van recruitment technologie. Door deze manier

van zoeken is een beeld verkregen van recruitment technologieën die vaker genoemd worden

en de bedrijven (veelal de ‘voorlopers’) die zich profileren met het gebruik van technologieën

ter ondersteuning van het werving en selectieproces.

In de inventarisatie is per type technologie aangegeven wat de ingeschatte potentiële risico’s

van deze technologie zijn. Omdat sociale media steeds belangrijker worden in de eerste fasen

van het recruitmentproces (m.n. LinkedIn en Facebook) is extra aandacht besteed aan de rol

van deze social media platformen in het recruitmentproces.

2.3.6 Discussietafel en interviews met (intermediaire) partijen betrokken bij het werving en

selectieproces.

De bevindingen uit de literatuurscan en de internet search hebben zijn getoetst tijdens een

discussietafel met partijen uit het veld die betrokken zijn bij het werving en selectieproces in

bedrijven. Onder de deelnemers waren experts uit de HR-sector en het wetenschappelijk

onderzoek. De discussietafel diende daarbij om extra inzichten te genereren voor de opzet

van het interviewprotocol. Vervolgens zijn er elf interviews uitgevoerd met intermediaire

partijen (zoals recruitmentbureaus en uitzendbureaus), een assessmentbureau, juridische

experts en HR-professionals werkzaam bij werkgevers. De interviews dienden tot de

beantwoording van de volgende vragen (zie de Appendix voor het interviewprotocol):

1. Welke recruitment technologieën worden door HR-afdelingen en intermediairs gebruikt?

2. Welke rol spelen de recruitment technologieën in het totale recruitmentproces?

3. Wat is de mogelijke omvang en mate waarin gebruikgemaakt wordt van recruitment

technologieën in het brede veld van werving en selectie?

4. Welke mogelijke risico’s van de recruitment technologieën voor discriminatie zien de

respondenten?


5. Bij wie ligt volgens respondenten de verantwoordelijkheid om juist om te gaan met

recruitment technologieën in het werving- en selectieproces?

De interviews zijn gehouden met respondenten werkzaam bij de volgende typen organisaties:

› 4 interviews bij werkgevers (financiële sector(1), detailhandel (2), telecom (1));

› 3 interviews bij Intermediairs (uitzendbureaus (2), recruiter/adviesbureau (1));

› 1 interview bij een assessmentbureau;

› 2 interviews met juridische experts5;

› 1 interview met een expert op het gebied van recruitment technologieën.

Het eerste selectiecriterium voor de werkgevers en intermediairs was het daadwerkelijk

gebruik van nieuwe recruitment technologieën, de voorlopers op dit terrein. Dat leidde ertoe

dat in dit onderzoek vooral grote werkgevers zijn bevraagd; werkgevers uit het MKB vallen

buiten de scope van dit onderzoek. Een tweede selectiecriterium was diversiteit: wij hebben

zoveel mogelijk werkgevers uit verschillende sectoren benaderd.

2.4 Leeswijzer

In Hoofdstuk 3 worden een aantal belangrijke begrippen toegelicht die gebruikt zijn in dit

onderzoek. Beschreven wordt wat verstaan wordt onder discriminatie, AI en data analytics.

Ook worden de verschillende fasen in het recruitmentproces benoemd, evenals de actoren in

dit proces. In hoofdstuk 4 staan de resultaten van het literatuuronderzoek centraal. Hierin

wordt een overzicht gegeven van de wijzen waarop er een risico op discriminatie kan ontstaan

bij het gebruik van recruitment technologieën. In hoofdstuk 5 worden de resultaten van de

internet search, de discussietafel en de en interviews met het veld samen beschreven. Dit

hoofdstuk is ingedeeld in functionaliteiten van technologieën (bv: selecteren van (potentiële)

kandidaten voor een functie of beoordelen van kwaliteiten van een kandidaat). Per type functie

worden een aantal voorbeelden gegeven van veel gebruikte technologieën en de ingeschatte

risico’s van deze technologieën. Vervolgens wordt beschreven hoe deze technologieën

worden gebruikt door de partijen die betrokken zijn bij werving en selectie. Ook de risico’s en

de oplossing voor deze risico die de partijen zien worden in dit hoofdstuk beschreven. In

Hoofdstuk 6 schetsen we beknopt het juridische kader en beschrijven we hoe recruitment

technologieën zich verhouden tot belangrijke wetgeving over privacy en gelijke behandeling.

In bijlage B staat de volledige uitwerking van het juridische kader. Het laatste hoofdstuk bevat

de conclusie van dit onderzoek en (beleids)aanbevelingen voor gebruikers van de

technologieën en de Inspectie SZW en vervolgonderzoek.

5 Het juridische kader is besproken met en gereviewd door een juridisch expert verbonden aan de

Radboud Universiteit en met juridische experts van de Autoriteit Persoonsgegevens (AP).


3 Belangrijkste begrippen

In dit hoofdstuk zetten we de belangrijkste begrippen voor dit onderzoek uiteen. Hierbij komen

onder andere de definitie van discriminatie, artificiële intelligentie (AI) en data analytics aan

bod. Daarnaast wordt het recruitmentproces en de actoren die daarbij betrokken (kunnen) zijn

beschreven.

3.1 Discriminatie

Bij arbeidsmarktdiscriminatie gaat het om verboden onderscheid tussen mensen bij de

arbeid. Als wij spreken over het risico op discriminatie in dit rapport, bedoelen we

discriminatie op de arbeidsmarkt die volgens de wet verboden is. Dan gaat het om uitsluiting

op basis van de twaalf discriminatiegronden6,

zonder dat hiervoor een specifieke uitzondering of

een objectieve rechtvaardiging bestaat (zie box

1).7

Wij zullen ook gevallen benoemen waarin er geen

sprake is van een risico op discriminatie op basis

van deze twaalf gronden, maar waar er toch een

risico op uitsluiting kan ontstaan op basis van

andere gronden (bijvoorbeeld, op basis van

aangeklikte websites). Als er bij onderscheid geen

sprake is van directe of indirecte discriminatie (zie

onderstaande definities) hanteren wij de term

uitsluiting.

In dit onderzoek besteden wij aandacht aan zowel

directe als indirecte discriminatie. Bij directe

discriminatie is het duidelijk dat de benadeling

plaatsvindt op basis van (een van) de twaalf

genoemde discriminatiegronden. Bijvoorbeeld

wanneer een online personeelsadvertentie alleen

zichtbaar is voor een bepaalde leeftijdsgroep. Bij

indirecte discriminatie gaat het om eisen of regels

die neutraal lijken te zijn, maar toch tot

discriminatie kunnen leiden. Een voorbeeld is het gebruik van psychologische tests die

cultuurgebonden kunnen zijn waardoor mensen met een migratieachtergrond indirect in het

nadeel zijn of als met ‘het klikgedrag’ de politieke voorkeur van iemand in kaart wordt gebracht.

6 Note: de discriminatiegronden arbeidsduur en arbeidscontract zijn niet van toepassing bij de

werving en selectie. 7 Volgens de Wet Gelijke Behandeling is er sprake van ‘onderscheid’ als sprake is van ongelijke

behandeling op basis van de twaalf discriminatiegronden. Het maken van onderscheid is verbonden wanneer er geen wettelijke grondslag of objectieve rechtvaardiging voor bestaat (zie ook Bijlage B).

Box 1: Twaalf discriminatiegronden

Het Nederlands wettenstelsel op basis van de

volgende twaalf discriminatiegronden beschermt

tegen discriminatie op het gebied van arbeid:

› Godsdienst;

› Levensovertuiging;

› Politieke gezindheid;

› Ras (ook wel aangeduid met etnische afkomst);

› Sekse;

› Nationaliteit;

› Heteroseksuele of homoseksuele gerichtheid;

› Burgerlijke staat;

› Handicap of chronische ziekte;

› Leeftijd;

› Arbeidsduur (parttime of fulltime

dienstverband);

› Type arbeidscontract (bepaalde of onbepaalde

tijd).

(College voor de Rechten van de Mens, 2019)


Met discriminatie bij het gebruik van recruitment technologieën wordt in dit rapport

bedoeld: discriminatie die veroorzaakt, gefaciliteerd of versterkt wordt door de inzet van

digitale middelen die het recruitmentproces ondersteunen. Uiteraard heeft het gebruik van

dergelijke technologieën niet per definitie een discriminerend effect, maar dit kan wel zo zijn

door de manier waarop het wordt ingezet.

Onder recruitment technologieën verstaan we bijvoorbeeld relationele databases, maar ook

AI (zie volgende paragraaf) voor zover deze ingezet worden bij de werving en

selectieprocedure. De toepassing van deze technologieën kan relatief eenvoudig zijn, zoals

het zoeken naar activiteiten van een sollicitant op sociale media. Geavanceerdere

toepassingen zijn de inzet van online assessment tools. Voorbeelden van deze toepassingen

zijn serious games, geavanceerde online vragenlijsten en toepassingen die visuele informatie

verwerken (bijvoorbeeld micro-expressies in het gezicht) tijdens een sollicitatiegesprek.

Veel voorkomende termen met betrekking tot de gebruikte technologieën zijn AI, data analytics

en algoritmes. Er bestaat geen algemeen geaccepteerde definitie van AI (artificiële, of

kunstmatige, intelligentie); dat heeft er onder andere mee te maken dat er geen consensus

bestaat over wat er verstaan kan worden over ‘kunstmatig’ (wat zijn de grenzen tussen

kunstmatig en natuurlijk?) en ‘intelligentie’ (is de term alleen toepasbaar op menselijk gedrag?

En wat voor soort gedrag is dit?). Als werkdefinitie kiezen wij hier voor de volgende definitie:

Artificiële Intelligentie is de tak van computerwetenschap die zich bezighoudt met de simulatie

van intelligent gedrag door machines8. In veel gevallen wordt met de term gerefereerd aan

machine learning: computers laten leren uit data door het gebruik van zelflerende algoritmes

(Wabeke et al. 2018). Een bredere term om de verzameling en analyse van data te duiden is

data analytics; hieronder valt de verzameling, verwerking en analyse van data met behulp

van statistische technieken en eventueel machine learning. Een algoritme is een set van

instructies die door een computer uitgevoerd kunnen worden. Dit kan leiden tot situaties

waarin sommige besluiten automatisch genomen kunnen worden.9

Samenvattend houdt onze focus op het risico op discriminatie in dat wij aandacht besteden

aan de gevoeligheid van het recruitmentproces voor zowel directe als indirecte discriminatie,

en daarbij ook een risico op andere vormen van uitsluiting benoemen. De eigenschappen van

een technologie kunnen bijdragen aan dit risico, maar ook de wijze waarop een digitale tools

worden ingezet. Een belangrijk begrip hierbij is bias (vooroordeel of systematische afwijking).

Mensen kunnen een bias hebben (bijvoorbeeld bewust of onbewust denken dat vrouwen niet-

technisch zijn), in dat geval spreken we van een vooroordeel. Ook systemen kunnen bias

bevatten. Technologieën die gebruik maken van grote hoeveelheden digitale data kunnen in

hun resultaten systematische afwijkingen kunnen vertonen (die al dan niet samenhangen met

ongelijkheden binnen een maatschappij, hierover meer in Hoofdstuk 4) (Bogen en Rieke

2018).

8 Meriam Webster: https://www.merriam-webster.com/dictionary/artificial%20intelligence. 9 Niet alle algoritmes kunnen als AI worden beschouwd; algoritmes worden ook buiten AI systemen

veelvuldig ingezet.


3.2 Het recruitmentproces

Omdat dit onderzoek zich richt op de risico’s op discriminatie die voortkomen uit de organisatie

van het recruitmentproces, schetsen wij hier de belangrijkste fasen en actoren in dit proces.

3.2.1 Fasen in het recruitmentproces

Het recruitmentproces is het volledige traject van kandidaten werven, de eerste kandidaten

selecteren tot en met het maken van de uiteindelijke keuze. De afgelopen jaren is het

recruitmentproces een stuk uitgebreider en specialistischer geworden, zo blijkt ook uit de TNO

rapportage ‘Discriminatie bij werving en selectie: huidige gang van zaken en trends’ (Piek et

al., 2018). In deze rapportage wordt een complex traject beschreven dat start bij het

positioneren van de werkgever (o.a. het vergroten van de naamsbekendheid) en eindigt bij

het de screening en het aannemen van een kandidaat.

Voor ons onderzoek onderscheiden wij de volgende fasen:

› In de wervingsfase zoeken werkgevers en/of intermediairs naar kandidaten die voldoen

aan het functieprofiel. Deze fase omvat zowel het vergroten van de naamsbekendheid

en de samenstelling van een ‘pool’ van sollicitanten (dit wordt ook wel sourcing

genoemd), als het opstellen van een functieprofiel.

› In de eerste selectiefase beoordelen werkgevers en/of intermediairs de reacties van de

kandidaten door onder andere het screenen van curricula vitae en/of motivatiebrieven.

› In de beoordelingsfase hebben werkgevers en/of intermediairs rechtstreeks contact met

kandidaten door middel van (één of meerdere) sollicitatiegesprekken om zo meer

informatie over de kandidaat te verkrijgen. Ook hier kunnen assessments en video-

interviews worden ingezet.

In de tweede selectiefase nemen werkgevers een definitieve beslissing over aanname.

Bij deze laatste fase kan ook gebruik gemaakt worden van digitale instrumenten,

bijvoorbeeld bij het checken van referenties.

3.2.2 Actoren in het wervings- en selectieproces

Intermediairs bieden veel verschillende diensten op het gebied van werving en selectie aan.

Zo kunnen werkgevers delen van hun recruitmentproces uitbesteden aan social media

platformen/vacaturewebsites, recruitment-, en/of assessmentbureaus of ze schakelen

detacherings- en/of uitzendbureaus in. Hieronder geven we een verkorte beschrijving van

deze rollen zoals gepresenteerd in Piek et al. (2018).

De werkgever zet veelal de eerste stap in het wervings- en selectieproces en is gedurende

alle fasen actief. Veelal stelt een manager, hierna ‘vacaturehouder’ genoemd, vast dat zij

nieuw personeel nodig heeft. De vacaturehouder schakelt binnen grote organisaties vaak een

interne recruiter in om het recruitmentproces te begeleiden. Indien werkgevers besluiten

intermediairs in te schakelen, zoals recruitmentbureaus of assessmentbureaus, hebben zij

een actieve rol in het opstellen van de functie-eisen en selectiecriteria. Het recruitmentproces

eindigt voor de werkgever op het moment dat zij na de interviews en eventueel een

assessment een keuze maken voor een kandidaat en die aannemen.

Recruitmentbureaus worden veelal ingeschakeld bij lastig in te vullen functieprofielen. De rol

van recruitmentbureaus is het vinden en aanspreken van specifieke doelgroepen. Op basis

van het door de werkgever opgestelde functieprofiel zoeken recruitmentbureaus naar

kandidaten via het directe netwerk dat zij hebben opgebouwd in de betreffende sector,


doelgroep of via online platformen als LinkedIn. Vervolgens spelen zij een rol in de selectie en

beoordeling door het voeren van gesprekken en interviews, waarna zij enkele kandidaten

voorstellen aan de werkgever. De werkgever besluit uiteindelijk welke kandidaat hij of zij in

dienst neemt. Recruitmentbureaus maken veel gebruik van vacaturesites, waarop

advertenties en vacatures kunnen worden geplaatst. Veel vacaturesites bieden ook

databanken van cv’s aan die tegen betaling door werkgevers of intermediairs doorzocht

kunnen worden.

Uitzendbureaus gebruiken recruitment technologieën en intelligente systemen om de vraag

vanuit inleners en het aanbod van kandidaten te koppelen. Op het moment dat een werkgever

een vacature aandraagt, plaatst het bureau deze op de eigen en andere vacaturesites.

Doordat er reeds een database met potentiële kandidaten bestaat, kan deze ook worden

geraadpleegd. Na het voeren van gesprekken en uitvoeren van eventuele assessments stellen

zij kansrijke kandidaten voor. Indien de werkgever de kandidaat wil inzetten, stelt het

uitzendbureau een contract op voor de functie, dat getekend wordt door het uitzendbureau en

de kandidaat. Omdat een uitzendbaan een opstap kan zijn naar een vast contract, spelen

uitzendbureaus ook indirect een rol bij het werving- en selectieproces van bedrijven.

Werkgevers kunnen assessmentbureaus inschakelen als zij op zoek zijn naar een

onafhankelijk advies over de kwaliteiten en het potentieel van een kandidaat. Hiermee zijn

assessmentbureaus actief in de beoordelingsfase. Een assessment, zoals uitgevoerd door de

meeste assessmentbureaus is een onderzoek waarbij psychologische hulpmiddelen zoals

tests, vragenlijsten, interviews en rollenspelen worden gebruikt om er achter te komen of de

kandidaat geschikt is voor een bepaalde functie.

Intermediairs en werkgevers kunnen marketing- en communicatiebureaus voor of tijdens

de wervingsfase inzetten om de naamsbekendheid van een werkgever te vergroten en

gerichte doelgroepen te bereiken. Zij maken hierbij met name gebruik van social media en

vacaturewebsites.

De rol van ontwikkelaars is niet te plaatsen in één fase van het proces. Ontwikkelaars

ontwerpen de digitale toepassingen en kunnen adviseren over de toepassing. Analisten of

consultants worden in sommige processen betrokken bij de analyse van data verkregen door

het gebruik van digitale toepassingen.

Daarnaast spelen social media platformen een rol in het recruitmentproces door het

faciliteren van advertentieruimte, netwerken en het aanspreken van specifieke doelgroepen.

De laatste, en wellicht belangrijkste, actor in dit proces is de werkzoekende. Werkzoekenden

kunnen zowel actief als passief op zoek zijn naar werk. Door de opkomst van recruitment

technologieën krijgen werkzoekenden meer kans zich te profileren. Ook kunnen zij anticiperen

op de werking van recruitment technologieën. Tegelijkertijd lijkt er in toenemende mate

verwacht te worden dat werkzoekenden data over zichzelf delen om kans te maken op een

baan.


4 Literatuurscan

4.1 Inleiding

Onderzoek naar de ontwikkeling van HR in de VS toont aan dat de grootste bedrijven al enige

jaren stappen aan het zetten zijn in de adoptie van geautomatiseerde systemen om personeel

te werven en te selecteren (Ajunwa en Green, 2018; Bogen en Rieke, 2018). Hieronder vallen

technologieën als online assessments en games, video interviews en vacature websites die

cv’s aan vacatures en werkgevers kunnen koppelen. Ook in Nederland zijn deze

ontwikkelingen merkbaar. Valkenburg (2018) signaleert onder andere het aanbod van video-

interviews en chatbots (zie ook Van de Haterd, zonder datum; LTP, 2019). Naast het

voorspellen van de prestaties van sollicitanten op basis van data uit het verleden, richten

technologieën zich op de analyse van spelgedrag, taal en mimiek.

Over het gebruik van deze technologieën in Nederland is minder bekend. Valkenburg maakt

met betrekking tot de adoptie van nieuwe recruitment technologieën een onderscheid tussen

klassiek reactieve, modern reactieve, proactieve en expert-niveau recruitment. Bedrijven die

relatief veel (hoog opgeleide) mensen aannemen en internationaal opereren zullen zich vaker

op ‘expert niveau’ bevinden en meer nieuwe technologieën toepassen. Onder andere

bedrijven die minder kapitaal uittrekken voor HR of weinig doorstroming van personeel hebben

zullen dit minder snel inzetten. Daarbij ervaart een deel van de werkgevers dat de data die zij

tot hun beschikking hebben10 vaak nog niet van voldoende kwaliteit zijn om analyses uit te

voeren, en dat de validiteit van veel data analytics nog bewezen moet worden (zie bijv. Oppen

en Mesters, 2017).

Een terugkerend thema in de huidige discussie over dit onderwerp is de vraag of discriminatie

en uitsluiting te wijten zijn aan bestaande discriminatie in de maatschappij of aan de

technologie. De consensus is over het algemeen dat recruitment technologieën bestaande

ongelijkheden kunnen reproduceren. Ook kunnen zij ongelijke behandeling versterken, omdat

technologie opgeschaald kan worden. Zoals hieronder zal worden besproken kunnen

recruitment technologieën ook nieuwe redenen voor uitsluiting introduceren, zoals klikgedrag

(de manier waarop mensen door websites en andere internetapplicaties heen klikken). Om

deze redenen is het zinvol om de rol van technologie in het risico van discriminatie te

bespreken, zelfs als deze terug te voeren reeds bestaande vormen van discriminatie.

Tot slot is het belangrijk om te herhalen dat er ook onderzoek bestaat dat juist de potentie van

technologie om bias te verkleinen benadrukt. Sommige auteurs bespreken bijvoorbeeld de

mogelijkheid om een alternatief of toevoeging te bieden voor ongestructureerde

sollicitatiegesprekken (zie bijv. Kleinberg et al., 2018). In dit hoofdstuk richten wij ons echter

alleen op onderzoek naar het risico op discriminatie bij het gebruik van recruitment

technologieën.

10 Bijvoorbeeld data over het functioneren van huidige werknemers waarmee data over sollicitanten

vergeleken kan worden.


4.2 Discriminatie bij de toepassing van recruitment technologieën

4.2.1 De werking van algoritmes

In recruitment technologieën zoals online adverteren en videosollicitaties kan gebruik worden

gemaakt van algoritmes die een selectie maken van geschikte kandidaten. Daarbij kunnen

deze algoritmes kandidaten een score geven die leidt tot een ‘ranking’ van de best geschikte

kandidaten. Het gaat hier om een toepassing van machine learning, te weten het afleiden van

regels uit bestaande datasets en de toepassing van deze regels op nieuwe, onbekende, data.

Enkele recente casussen met betrekking tot arbeidsdiscriminatie geven aan dat het gebruik

van machine learning tot bias kan leiden. Een bekende casus in het domein van recruitment

is de ontdekking dat de Google mannelijke werkzoekenden hoger betaalde advertenties laat

zien dan vrouwelijke werkzoekenden (Spice, 2015). Chen et al. tonen in een onderzoek naar

de werking van vacaturesites in de VS aan dat de universiteit waar iemand gestudeerd heeft

en periodes van werkloosheid invloed hebben op de ‘ranking’ van kandidaten voor een baan.

Voor enkele technische beroepen werd gevonden dat mannen hoger in de rankings

uitkwamen dan vrouwen (Chen et al., 2018).

Het voorbeeld van Google illustreert dat bias ten minste deels een reflectie is van een

bestaande ongelijkheid: omdat mannen hoger betaalde vacatures bekijken dan vrouwen,

worden hen in andere situaties ook hoger betaalde vacatures aangeboden (achter dit verschil

in zoekgedrag kunnen weer verschillende oorzaken zitten, zoals het feit dat vrouwen meer

parttime vacatures bekijken). Over het algemeen is de internationale literatuur het hierover

eens: algoritmisch bias reflecteert bestaande ongelijkheden op de arbeidsmarkt en kan deze

voortzetten (Ajunwa et al. 2016; Barocas en Selbst, 2015; Hiemstra en Nevels, 2018).

Desalniettemin is de wijze waarop algoritmische bias precies tot stand komt van belang, komt

dit bijvoorbeeld door de trainingsdata of door de gekozen variabelen (eigenschappen)? Vaak

is bij het gebruik van commerciële toepassingen niet te achterhalen hoe algoritmische bias

precies tot stand komt, omdat de algoritmes en werkwijzen niet openbaar zijn. Daarom

bespreken wij hier vijf ‘bronnen’ zoals deze in 2015 zijn voorgesteld door Barocas en Selbst.

1. De definitie van ‘goede’ performance of geschiktheid

Machine learning kan worden gebruikt om te voorspellen of een werkzoekende goed zal

presteren. Een dergelijk voorspellend model moet een indicator bevatten voor een ‘goede

performance’. Hierbij kan bijvoorbeeld worden gekozen voor contractduur. Echter, dergelijke

keuzen kunnen de kansen van werkzoekenden beïnvloeden als de gekozen definitie van

succes (de outcome variabele) samen hangt met andere kenmerken, bijvoorbeeld als

werknemers van etnische minderheden minder lang bij een werkgever in dienst blijven door

gepercipieerde cultuurverschillen (Kleinberg et al. 2018). Een ander voorbeeld is de definitie

van succes als snelle doorstroming naar hogere functies. Hierbij bestaat het risico dat vrouwen

minder snel aan dergelijke criteria kunnen voldoen door een verzameling maatschappelijke en

culture factoren (‘het glazen plafond’) (Vetzo et al., 2018).


Daarbij bestaat het risico dat een correlatie wordt gezocht tussen kenmerken van werknemers

en een bestaande, mogelijk inconsistente, graadmeter van succes, zoals performance reviews

die in het verleden door managers zijn uitgevoerd (Boracas en Selbst, 2016). Hoewel deze

bron van bias ook bestaat buiten het gebruik van machine learning, worden performance

reviews in het ontwikkelen van algoritmes gezien als een objectieve indicator.

Een bredere vraag is: zijn de gekozen succescriteria zinvol? Geven zij daadwerkelijk een

indicatie van geschiktheid voor een functie? Het veel gebruikte ‘cultural fit’ blijkt volgens veel

onderzoek bijvoorbeeld een slechte voorspeller van succes te zijn (Ajunwa, 2016). Andere

onderzoekers stellen voor dat het zoeken op basis van vaardigheden inclusievere resultaten

kan opleveren dan het zoeken op kwalificaties (NsvP, 2019). Kortom, een volledige, objectieve

definitie van een goede of geschikte werknemer bestaat niet, waardoor het van belang is de

criteria zorgvuldig te kiezen (Kluemper et al., 2016).

2. Het verzamelen en verwerken van trainingsdata

Een bestaande dataset wordt gebruikt voor het opstellen van een voorspellend model,

bijvoorbeeld een dataset met daarin de eigenschappen van huidige werknemers. Een eerste

oorzaak van bias is het proces van labeling (Barocas en Selbst, 2016; Vetzo et al., 2018). Om

het model te trainen moeten de data een waarde of eigenschap toegekend krijgen (een ‘label’),

en dit is vaak mensenwerk. Hier kan gedacht worden aan het verschillend toekennen van

waarden aan emoties tussen mannen en vrouwen bij de ontwikkeling van emotieherkenning;

een serieuze blik bij vrouwen kan anders worden geïnterpreteerd dan bij mannen.

Ten tweede kunnen trainingsdata ongelijk verdeeld zijn over groepen; in dit geval zijn data niet

representatief. Als data niet representatief zijn, kan een algoritme dat hieruit afgeleid is een

bias bevatten. Een bekend voorbeeld is de AI toepassing van Amazon voor het automatisch

voorspellen van werksucces van sollicitanten. In oktober 2018 kwam aan het licht dat Amazon

de ontwikkeling van de toepassing heeft gestaakt, omdat mannen hogere scores kregen

toebedeeld. De toepassing had namelijk ‘geleerd’ welke kenmerken een succesvolle

werknemer zou moeten bezitten op basis van de sinds 2004 ontvangen cv’s. Dit betroffen

echter vooral cv’s van mannen, waardoor succesvolle kenmerken vooral aan mannen werden

gekoppeld (Koolhof, 2018).11

Het is ook voor te stellen dat over jonge mensen meer sociale media data beschikbaar zijn

dan over oudere mensen. Ook mensen met een handicap kunnen minder actief zijn op sociale

media en daardoor minder data over zichzelf beschikbaar maken (FRA, 2019). Dit risico kan

ook ontstaan als een model dat getraind is op een subset van data (bijvoorbeeld een provincie)

wordt toegepast op een andere populatie (een andere provincie of heel Nederland).

Ten derde kan de betrouwbaarheid van de trainingsdata een bron zijn van bias. Fouten,

onvolledigheden en verouderde data kunnen leiden tot de ontwikkeling van algoritmes die een

onjuist onderscheid tussen groepen maken. Zoekmachines maken bijvoorbeeld veel gebruik

van klikgedrag om te leren over de interesses van mensen. Echter, kliks kunnen willekeurig

zijn, fout zijn, of ten onrechte worden geïnterpreteerd als de voorkeuren van een persoon. Een

ander voorbeeld is de foutieve invoer van informatie door mensen die minder digitaal vaardig

zijn.

11 Het krantenartikel vermeldt een andere belangrijk aspect van dit project: naast een bias voor

mannen, werden er door onbetrouwbare data ook regelmatig ongeschikte of willekeurige kandidaten aangeraden.


3. De keuze van variabelen

Niet alle mogelijk relevante variabelen (dat wil zeggen kenmerken van mensen) worden in de

praktijk gebruikt bij het trainen van een model. Er moet altijd gekozen worden, en de keuzes

die worden gemaakt kunnen onbedoeld bias veroorzaken in het model (Calders en Žliobaitė,

2013). Keuzes kunnen gemaakt worden op basis van expertmodellen of aannames over de

variabelen die van belang zijn, maar ook de beschikbaarheid van data kan in de praktijk een

rol spelen. Barocas en Selbst geven voor die beschikbaarheid het voorbeeld van het afronden

van een studie aan een prestigieuze universiteit in de VS (2016). Dit is een variabele die

geselecteerd kan worden omdat deze voor handen is. Echter, de keuze kan ook leiden tot een

risico op discriminatie, omdat niet alle groepen uit de samenleving de kans hebben om naar

een prestigieuze universiteit te gaan.

4. Het gebruik van schijnbaar objectieve variabelen die proxies blijken te zijn voor

beschermde kenmerken

Ogenschijnlijk objectieve (input) variabelen kunnen samenhangen met gevoelige kenmerken

die niet zijn meegenomen in het model. Wanneer ogenschijnlijk objectieve variabelen worden

gebruikt in het bepalen van de geschiktheid voor een vacature, kan het zijn dat deze variabelen

samenhangen met een beschermde kenmerk (discriminatie grond). Zo worden deze

variabelen onbedoeld toch meegenomen in de selectie. Een voorbeeld is het gebruik van

reisafstand als voorspeller van contractduur in de VS. In dit geval bestond het risico dat

reisafstand samen hing met etnische achtergrond in de VS, omdat mensen uit economisch

kwetsbare etnische groepen vaker verder weg wonen van zakencentra (White House, 2016).

Zoals eerder gezegd, reflecteren dergelijke proxies veelal maatschappelijke ongelijkheden.

Bias is daardoor in veel gevallen geen opzet.

5. Maskeren: het opzettelijk gebruik van de mogelijkheid op bias

De voorgaande vier bronnen van bias komen in principe niet voort uit de intentie om mensen

uit te sluiten. Echter, zij kunnen wel worden gebruikt om te verhullen dat men groepen wil

buitensluiten (zoals in het geval van afstand tot werk in de VS). Dit wordt ook wel ‘maskering’

genoemd (Barocas en Selbst, 2016; Vetzo et al., 2018). Dit is echter moeilijk te bewijzen. In

Nederland zijn hier geen gevallen van bekend.

Tot slot is het van belang te vermelden dat niet elke vorm van algoritmische bias tot

discriminatie volgens de wet kan leiden. Het gaat hier om een onderscheid tussen wat

uitlegbaar en te rechtvaardigen is, en wat niet. Zo kan opleiding voor een specifieke vacature

samenhangen met gender en voor verschillen in rankings tussen mannen en vrouwen zorgen.

Echter, wanneer een bepaalde opleiding essentieel is voor het vervullen van de functie kan

dit te rechtvaardigen zijn.

4.2.2 De werking van algoritmes in het adverteren van vacatures

Een relevante toepassing waarbij algoritmische bias een belangrijke rol kan spelen is het

gericht online adverteren van vacatures op basis van profieldata en data over online gedrag.

Dit speelt een rol in onder andere het adverteren op Facebook, LinkedIn, Twitter en Google

Ads (zie ook Amnesty International, 2019). In Hoofdstuk 5 worden de interfaces en

mogelijkheden van Facebook, LinkedIn en Twitter in meer detail besproken. Hier wordt kort

ingegaan op bestaand onderzoek over Facebook en Google Ads naar het risico op

discriminatie bij het gebruik van deze instrumenten. Het risico op discriminatie zal met name

een rol spelen in de wervingsfase (inclusief employer branding). Dit onderzoek gaat met name

over Facebook en Google Ads.


Facebook geeft werkgevers de mogelijkheid doelgroepen samen te stellen. In 2016 toonde de

Amerikaanse burgerrechtenorganisatie ProPublica aan dat adverteerders konden selecteren

op basis van ras en etniciteit (Angwin en Parris, 2016). Deze kwestie werd ook in Nederland

aangekaart, waarop Facebook de mogelijkheid om onderscheid te maken op ras en etniciteit

in de selectie op doelgroepen heeft aangepast; ook in Nederland (Volkskrant, 2016).12 Hoewel

het anno 2019 in Nederland niet meer mogelijk is doelgroepen te selecteren op ras, etniciteit

en een aantal andere mogelijk direct discriminerende kenmerken (bijvoorbeeld ‘generatie’), is

het nog wel mogelijk te selecteren op onder andere geslacht (directe discriminatie), regio en

‘interessegebieden’ (waaronder politieke partijen).

Volgens de analyse van Speicher et al. (2018) biedt Facebook drie mogelijkheden om

doelgroepen samen te stellen: ‘attribute based targeting’, ‘custom audience targeting’ en ‘look-

alike audience targeting’ (zie ook Thijs, 2019). In het eerste geval kan een adverteerder (in dit

geval een werkgever) eigenschappen selecteren die, samen met andere eigenschappen in

een model, gebruikt worden om een profiel samen te stellen met de eigenschappen van de

personen die de vacature te zien moeten krijgen. Hierbij kunnen adverteerders ook kiezen uit

door Facebook aangeboden profielen die worden opgesteld op basis van klikgedrag en data

uit andere bronnen (bijv. Google Ads). Dit is waar het aantal datatypen en bronnen flink stijgt

en moeilijk te achterhalen is; in 2016 sprak The Washington Post over 98 data punten

waaronder waarde van het huis, relatiestatus en autowaarde (Dewey, 2016, betreffende de

VS).

In het geval van custom audience based targeting kan een adverteerder data leveren aan

Facebook over de groep mensen die zij wil bereiken. Deze data kan gematched worden met

de gebruikersgroep van Facebook om de vacature zeer selectief aan te beiden. Tot slot kan

er een ‘look-alike’ audience gegenereerd worden, gebaseerd op de kenmerken van de door

de adverteerder aangeleverde groepen personen. (LinkedIn biedt een soortgelijke dienst aan:

advertenties gericht op een groep mensen die lijkt op een groep huidige werknemer actief op

LinkedIn (Valkenburg, 2018)).

Dit voorbeeld laat zien dat er bij het gebruik van gericht adverteren een risico ontstaat op

discriminatie. Namelijk, er kan bij het adverteren van vacatures onderscheid gemaakt worden

op kenmerken zoals gender en leeftijd (in het geval van Facebook, zie Angwin en Scheiber,

2017). Ook bestaat er een risico op indirecte discriminatie door het gebruik van kenmerken

zoals taal, regio en aantal dienstjaren. Dit kan zorgen voor ongelijke kansen in de toegang tot

werk.

Een onderzoek naar Google Ads waarbij proefpersonen werden ingezet om webpagina’s te

bezoeken bevestigt dat gericht adverteren kan leiden tot ongelijke kansen om op de hoogte te

raken van kansen op de arbeidsmarkt. In dit experiment werden mannen en vrouwen

gevraagd webpagina’s te bezoeken over vacatures en werkgerelateerde zaken. Vervolgens

kregen alleen mannen advertenties te zien van een consultancy bureau gericht op het

verkrijgen van managementbanen met een hoog salaris.

12 ProPublica liet in 2018 zien dat uitsluiting o.b.v. kenmerken over etniciteit in de VS toch nog

mogelijk was (enkele categorieën waren nog beschikbaar, o.a. de Joodse etniciteit). In een rechtszaak heeft Facebook uiteindelijk geschikt (Levin, 2019).


Bij deze resultaten moet echter in acht worden genomen dat het hier strikt genomen niet om

vacatures ging, en dat de tweede run van het experiment een jaar later minder duidelijke

resultaten opleverde (Datta et al., 2015).

Tot slot kan gesteld worden dat de kans dat een werkzoekende een online vacature te zien

krijgt van vele factoren afhangt: van de dienst waarvoor een werkgever betaalt; of zijn of haar

profiel en online (zoek)gedrag aansluiten bij de opgestelde doelgroep; en van de duur en de

wijze waarop een werkgever de advertentie besluit te verspreiden. Hoewel in veel gevallen

een vacature te vinden zal blijven via websites, kan gezegd worden dat het adverteren van

vacatures via LinkedIn en Facebook niet automatisch leidt tot het verbreden van de doelgroep.

Uiteindelijk kunnen verschillen in de toegang tot vacatureinformatie leiden tot ongelijke kansen

op een (goede) baan.

4.2.3 Selectie en screening door HR-professionals en recruiters

Sociale media

HR professionals en recruiters kunnen social media gebruiken om informatie te vergaren over

kandidaten. Dit kunnen ze doen om in contact te komen met mogelijke sollicitanten, om te

besluiten of sollicitanten uitgenodigd moeten worden voor een sollicitatiegesprek, of later in

het recruitmentproces bij het besluit om een persoon aan te nemen. LinkedIn en Facebook

zijn volgens voorgaand onderzoek de meest gebruikte social media in recruitment;

verschillende enquêtes uitgevoerd door het UWV en HR organisaties wijzen uit dat 70 tot 80%

van de werkgevers gebruik maakt van deze platformen (Piek et al., 2018; Vuik et al, 2018;

Wagenaar en De Wit, 2018). Echter, volgens onderzoek uitgevoerd door Wagenaar en De Wit

voor het UWV wordt er zelden exclusief gebruik gemaakt van deze middelen; 91% van de

werkgevers zegt vacatures tevens op de eigen of een vacaturewebsite te plaatsen. Daarbij

gebruikt 68% van de ondervraagden ook het eigen netwerk voor werving.

LinkedIn wordt vaker ingezet voor het rekruteren van hoger opgeleiden en Facebook voor

lager opgeleiden (Wagenaar en De Wit, 2018). Beiden worden met name gebruikt voordat het

sollicitatiegesprek plaatsvindt, maar over de precieze inzet in het recruitmentproces is minder

bekend. 71% zegt ‘sociale media’ te gebruiken voor de plaatsing van vacatures. Daarbij

kunnen beide platformen gebruikt worden voor het actief zoeken naar kandidaten, het leggen

van contact en het (informeel) ‘screenen’ van achtergrondinformatie. Een dergelijk

onderscheid wordt in recente enquêtes niet gemaakt. Onderzoek onder Vlaamse werkgevers

wijst echter uit dat 43% van de ondervraagden LinkedIn gebruikt on actief te zoeken naar

kandidaten (Caers en Castelijns, 2011). Echter, van deze groep zegt een minderheid LinkedIn

te gebruiken om daadwerkelijk een besluit te nemen over uitnodiging voor een

sollicitatiegesprek. Voor Facebook geeft 13% van de gebruikers aan het medium op deze

manier te gebruiken (Caers en Castelijns 2011).

De beschikbaarheid van online profielfoto’s en profielen kan ervoor zorgen dat selectie en

uitsluiting (mede) plaatsvinden op basis van uiterlijke kenmerken (Caers en Castelijns 2011;

Van der Land et al., 2015; Van Iddeke et al., 2016). Dit kan leiden tot een risico op discriminatie

op basis van kenmerken zoals etniciteit, leeftijd, aantrekkelijkheid en gender. Omdat deze

informatie al beschikbaar is voor een eventueel sollicitatiegesprek kan uitsluiting op basis van

deze kenmerken al in een vroeg stadium plaatsvinden. Online informatie kan ook leiden tot

een vroege selectie op basis van een nieuwe groep kenmerken.


Het gaat dan bijvoorbeeld om de netwerken waarin iemand zich bevindt (digitale

connecties)en gedrag/ uitspraken op sociale media.

Hoewel de informatie in sommige gevallen kan helpen om de identiteit en levensloop van een

persoon te verifiëren, waarschuwt het (zeldzame) onderzoek voor de zeer beperkte waarde

van sociale-media-informatie om succes op de werkvloer te voorspellen. In twee onderzoeken

werden recruiters gevraagd Facebook profielen te waarderen, bij het afzetten van deze

waardering tegen arbeidsprestatie werd geen correlatie gevonden (Roth et al., 2013; Van

Iddeke et al., 2016). Kluemper et al. (2016) vullen hierop aan dat de informatie op sociale

media profielen veelal niet betrouwbaar is doordat profielen niet ge-update zijn, informatie

geplaatst kan zijn zonder medeweten van de betrokkene of een betrokkene kan zelf

intentioneel foutieve informatie hebben geplaatst. Daarbij kan er bij de interpretatie sprake zijn

van identiteitsverwisselingen en de afwezigheid van contextuele informatie voor de

interpretatie ervan (Kluemper, 2016). Tot slot laten El Ouirdi et al. (2016) zien dat culturele

kenmerken er bij de beoordeling van sociale-media-informatie toe kunnen doen: Nederlandse

recruiters oordelen negatiever dan Italiaanse recruiters over niet-professionele informatie

(privé) op sociale media. Vrouwen waren bovendien over meer typen kenmerken positief dan

mannen.

CV databanken

Hoewel vacaturesites met cv-databanken de mogelijkheid bieden informatie op een grote

schaal aan te bieden, toont onderzoek aan dat dit geen garantie is voor gelijke behandeling.

Blommaert (2013) laat in onderzoek naar het opvragen van cv’s op online cv-databanken zien

dat de kans dat een cv van een werkzoekende met een Nederlandse achternaam wordt

opgevraagd door een recruiter bijna 50% groter is dan bij een persoon met een Arabische

achternaam. Wanneer een cv eenmaal is opgevraagd is de kans op een uitnodiging voor een

sollicitatiegesprek ongeveer even groot.

In een onderzoek naar verschillen in klik- en uitnodigingskansen voor mensen met een

bepaalde migratieachtergrond, leeftijdscategorieën en gender werd met dezelfde methode

ongeveer hetzelfde gevonden voor etniciteit: de kans dat er het op het cv van een persoon

met een Nederlandse achternaam wordt geklikt is ongeveer twee maal groter dan voor

personen met een Poolse, Antilliaanse, Surinaamse, Turkse of Marokkaanse achtergrond.

Daarbij was de ‘klikkans’ voor mannen niet veel hoger dan voor vrouwen, en was de klikkans

voor personen rond de 35 jaar ongeveer twee maal zo hoog als voor personen van 40-50 jaar

(Panteia, 2015).

De vraag of de technische mogelijkheden van cv databanken hierbij een rol spelen blijft in

deze onderzoeken onbeantwoord. In psychologisch onderzoek is echter aangetoond dat

onbewuste impulsen een grotere rol gaan spelen bij het maken van keuzes als de

keuzemogelijkheid groter is; onder deze onbewust impulsen vallen ook vooroordelen (zie bv

Tiemeijer, 2011). Een groter aanbod door de technische mogelijkheden van de cv databanken

kan hierdoor het risico op directe of indirecte discriminatie vergroten.13

13 Als vervolgens de populariteit van profielen gebruikt wordt als input voor modellen, kan er een bias

in het model ontstaan.


4.2.4 Verschillen in digitale vaardigheden en posities in digitale netwerken

Als gevolg van het gebruik van sociale media door HR-professionals en recruiters wordt

reputatiemanagement steeds belangrijker voor werkzoekenden (Berkelaar et al. 2015; Jeske

en Shultz, 2016). Enerzijds biedt dit kansen voor werkzoekenden om zichzelf zichtbaar te

maken en te profileren. Anderzijds geven werkzoekenden aan bezorgd te zijn over hun privacy

en moeite te hebben met het beheer van een imago dat zowel een privé als een professioneel

publiek kan hebben (Kluemper et al., 2016). Het is in sommige gevallen niet makkelijk om

online informatie te veranderen. Structurele verschillen tussen groepen in de samenleving

kunnen effect hebben op de kans dat werkzoekenden zich succesvol profileren bij werkgevers.

Hoewel dit rapport geen ruimte biedt voor een uitgebreide behandeling van dit onderwerp,

kunnen er verschillen in vindbaarheid en succes in profilering ontstaan door een ongelijke

verdeling van digitale vaardigheden, kennis over de gepaste wijze om jezelf te profileren, en

ongelijkheden in de digitale netwerken waarin men zich bevindt (waarmee status en invloed

kunnen worden gesuggereerd) (Sharone, 2017; Ruggs et al. 2016; Wesselink, 2012).

Dergelijke verschillen kunnen ongelijke behandeling faciliteren als een recruiter bijvoorbeeld

(bewust of onbewust) op zoek is naar werknemers uit een bepaalde sociale klasse, of als

sociale media profielen vooroordelen bevestigen.

4.2.5 Communicatie door werkgevers

Net als in ‘offline’ of niet-digitale vacatures en testen blijft de wijze waarop werkgevers

communiceren in beeld en woord van belang, omdat beeld- en taalgebruik groepen kan

uitsluiten. In sommige gevallen gaat het echt om discriminatie. Zo toonde een recente analyse

naar het taalgebruik in 1.8 miljoen Nederlandse online vacatureteksten aan dat bij ca. 4.3%

van de teksten sprake is van directe of indirecte leeftijdsdiscriminatie; dan gaat het om

ongeveer 79.000 gevallen. Veel gevonden voorbeelden van indirecte leeftijdsdiscriminatie zijn

vacatures die zoeken naar een student (meer dan de helft van de gevallen) of een starter. Het

onderzoek toont ook aan dat in het geval van parttimefunctie directe en indirecte

leeftijdsdiscriminatie vaker voorkomen (Fokkens, A., Beukeboom, C. J., & Maks, I., 2018).

4.2.6 Ongelijkheid in (informatie)positie tussen werkzoekenden en werkgevers

Het risico op discriminatie kan tevens worden versterkt doordat de gebruikte technologieën

moeilijk te controleren zijn. Recent onderzoek naar de claims van bedrijven dat online

assessments en ander recruitment technologieën bias-free zijn laat zien dat deze claims

moeilijk te controleren zijn door de(veelal) beperkte onderbouwing van deze claims

(Raghavan, et al., 2019; Sánchez-Monedero et al., 2019). Als deze claims toch niet juist zijn,

maar gebruikers de claims wel voor waar aannemen en de technologieën inzetten, wordt het

risico op discriminatie versterkt.

De toepassing van recruitment technologieën, zo benadrukken enkele auteurs, heeft ook een

ander effect dat ongelijke behandeling kan veroorzaken: recruitment technologieën stellen

werkgevers in staat het gebruik van deze technologieën aan een sollicitant op te leggen.

Sollicitanten met interesse in een bepaalde baan hebben weinig andere keuze dan om deel

te nemen aan video-assessments of online gaming. Daarom benadrukken Ajunwa en Hoffman

dat het probleem niet enkel benaderd zou moeten worden als het omgaan met ongelijkheden

als gevolg van technologiegebruik, maar dat er nagedacht moet worden over een systeem dat

niet gericht is op selectie van personen (Ajunwa, 2016; Hoffman, 2019).


Een voorbeeld hiervan is te werken aan een systeem dat standaard gericht is op inclusie,

zoals ‘open hiring’14 (NsvP, 2019).

4.2.7 Automation bias

Een laatste factor verdient hier nog de aandacht. Dit is het soms onterechte idee dat digitale

tools automatisch tot betere, objectievere en beter beredeneerde keuzes leiden (‘automation

bias’, Bogen en Rieke, 2018). Hierdoor kan het gebeuren dat resultaten niet meer kritisch

bekeken worden, Bogen en Rieke geven het voorbeeld van LinkedIn’s ranking van de beste

personen voor een baan. Het verschil tussen nummer één en twee kan hier minimaal zijn,

echter, vertrouwen in de technologie kan ertoe leiden dat dit soort zaken niet nader onderzocht

worden.

4.3 Concluderend

De toepassing van recruitment technologieën kan op verschillende manieren tot een risico op

discriminatie leiden. In dit hoofdstuk kwamen onder andere oorzaken in de werking van

algoritmes, het gedrag van recruiters bij het gebruik van cv databanken en faciliterende

factoren zoals verschillen in digitale vaardigheden aan bod. Over sommige technologieën is

nog weinig bekend over de risico’s: zoals bij emotieherkenning in video-interviews – al kan

daarbij verondersteld worden dat ook hier soortgelijke problemen gerelateerd aan het gebruik

van algoritmes spelen (Thiel, 2019).15 Het in gebruik nemen van recruitment technologieën

zonder onafhankelijk vooronderzoek kan de kans op discriminatie beïnvloeden (zie

Ruckenstein, 2019). In het volgende hoofdstuk worden deze verkend.

14 De term ‘Open Hiring’ houdt in dat wanneer iemand wil werken, simpelweg de gelegenheid krijgt

om aan de slag kan gaan binnen een organisatie of bedrijf. Dit wil zeggen zonder sollicitatiegesprek, cv of bemoeienis van de overheid. Iedereen is welkom, ongeacht wat iemand in het verleden heeft gedaan, genoten opleiding of ervaring.

15 In dit onderzoek beschrijft Algorithm Watch ook issues met betrekking tot de validatie tot gebruikte systemen voor emotieherkenning in de stem.


5 Recruitment technologieën in de praktijk

In dit hoofdstuk worden de resultaten van de internet search, de discussietafel en de interviews

met het veld samen beschreven. De paragrafen van dit hoofdstuk zijn ingedeeld naar de

functionaliteiten van technologieën (bijvoorbeeld: selecteren van (potentiële) kandidaten voor

een functie of beoordelen van kwaliteiten van een kandidaat). Per functionaliteit worden een

aantal voorbeelden gegeven van door experts en werkgevers genoemde technologieën en de

ingeschatte risico’s van deze technologieën. Vervolgens wordt beschreven in hoeverre en hoe

deze technologieën worden gebruikt door de partijen die betrokken zijn bij werving en selectie.

5.1 Het speelveld

Nieuwe recruitment technologieën worden aangeboden door zowel gespecialiseerde

ontwikkelaars, als door grotere bedrijven die zich richten op het genereren van informatie die

marktcompetitiviteit moet ondersteunen (strategic intelligence). Veel van het aanbod in

Nederland komt van internationaal opererende technologieleveranciers en adviesbureaus,

vaak in samenwerking met Nederlandse werkgevers, recruitmentbureaus en uitzendbureaus.

Dat er steeds meer door werkgevers wordt geïnvesteerd in recruitmenttechnologieën is ook

te zien aan de investeringsverwachtingen: in een enquête geeft 50-60% van een groep

ondervraagde corporate werkgevers aan in 2019 te investeren in het gebruik van social media

tools, 25-30% in ‘sourcing’ (het samenstellen van een groep mogelijke kandidaten) en ca 30%

in online assessments (Intelligence Group, 2019).

Steeds meer verschillende actoren zijn actief in het veld. Deze groei aan diversiteit wordt

onder andere veroorzaakt door de toenemende druk op kennis- en technologieontwikkeling

en de toenemende nadruk op employer branding. In beide gevallen zijn verschillende soorten

expertise nodig. Onder de werkgevers zijn het vooral de grote multinationals die hun eigen

digitale instrumenten en tools, in samenwerking met derde partijen, gaan ontwikkelen (denk

aan Unilever of Shell). Ook andere grotere en middelgrote werkgevers zijn, in samenwerking

met ontwikkelaars, actief in de ontwikkeling van nieuwe tools en het aanpassen van bestaande

tools. Het Randstad Investment Fund investeert in verschillende online platformen, zoals

Crunchr en Wonderkind. Hiermee vervult uitzendbureau Randstad meerdere rollen:

ontwikkelaar, investeerder en intermediair. Tot slot worden marketeers en campagnebedrijven

in toenemende mate ingeschakeld bij de inzet van sociale media tools en instrumenten.

Verwacht wordt dat de uitrol van Google for Jobs in Nederland (oorspronkelijk verwacht in

oktober 2019) meer verschuivingen in het speelveld zal veroorzaken. De verwachting is dat

Google for Jobs het voor werkzoekenden mogelijk zal maken om makkelijker toegang te

krijgen tot vacatures via de zoekmachine van Google. Hiermee zal volgens sommige experts

de rol van recruiters in de wervingsfase meer gaan verschuiven richting marketing om online

zichtbaarheid te garanderen.


5.2 Nieuwe recruitment technologieën

Er is een groot en divers aanbod van recruitmenttechnologie. Het Kennisplatform

Recruitmenttech16 schetste eind 2019 hun zogenoemde Recruitment Tech Landscape 202017.

Dit overzicht bestaat uit zo’n 150 leveranciers op het gebied van recruitmenttechnologie met

een kantoor/vertegenwoordiging in Nederland, België of Luxemburg. Bas van de Haterd,

onder andere auteur van verschillende boeken over technologie en werk, heeft in zijn White

paper Modern Assessment Tools een inventarisatie gemaakt van moderne, digitale,

assessment tools. Zijn verkenning bevat 41 innovatieve, niet vragenlijst-gebaseerde,

(internationale) assessment tools en overlapt deels met het geschetste beeld door

Recruitmenttech. Het Randstad Innovation Fund (RIF) geeft op haar website aan het van

belang te vinden om te investeren in nieuwe technologie met een focus op online platformen,

big data analyse, machine learning, sourcing, screening en selectiehulpmiddelen. Op dit

moment investeert RIF in de (door)ontwikkeling van zeventien (internationale)

recruitmenttechnologieën. Daarnaast leverde de internet search ook tal van aanbieders van

recruitmenttechnologie op die niet zijn opgenomen in eerder genoemde inventarisaties. Dit

maakt het een breed veld van aanbieders.

Zoals ook staat weergeven in de landschapsschets van Recruitmenttech.nl (zie Bijlage C),

levert de internet search ons het beeld op dat recruitmenttechnologie wordt aangeboden voor

elke fase in het recruitmentproces. Drijfveren voor organisaties om recruitmenttechnologie in

te zetten zijn onder meer:

› Verhogen van efficiëntie van bedrijfsmatige processen. Door het werven van potentiële

kandidaten met hulp van AI-gedreven systemen kunnen taken worden geautomatiseerd

die voorheen veel tijd en aandacht kostten. Organisaties kunnen hun selectieproces

sneller op gang brengen door bijvoorbeeld het gebruik van video-interviews, in plaats van

de traditionele gang van zaken zoals het plannen en organiseren van persoonlijke

interviews.

› Het bereiken van meer potentiele kandidaten. Door het gebruik van social media kunnen

recruiters het bereik van een vacature vergroten, doordat het onder andere de

mogelijkheid biedt om ook een doelgroep te bereiken die niet actief op zoek is naar een

nieuwe baan. Deze groep zal zelf niet actief kijken op jobboards of ‘werkenbij-sites’ van

bedrijven. Door het inzetten van wervingscampagnes via Facebook, LinkedIn, Google+,

Twitter of Instagram kunnen gedetailleerde doelgroepen worden opgesteld en wordt het

makkelijker gemaakt om ook personen te benaderen die niet actief op zoek zijn naar een

nieuwe baan.

› Het vinden van de meest geschikte kandidaten. Het kan daarbij gaan om zogenoemd

low-entry banen, zoals call centers of winkelpersoneel, waarbij bedrijven het belangrijk

vinden om het personeelsverloop zo beperkt mogelijk te houden. Het kan ook juist gaan

om schaars personeel, denk daarbij aan gespecialiseerde IT’ers of chauffeurs voor

distributuecentra.

› Het verzamelen van HR-data om trends te analyseren en bedrijfsstrategieën aan te

passen. Het zogenoemde people analytics (of HR-analytics) is een opkomend vakgebied

dat probeert op basis van verzamelde data te doorgronden hoe personeel, organisatie

en business performance aan elkaar gerelateerd zijn. Op basis van people analytics

16 recruitmenttech.nl 17 Zie bijlage C


probeert men bijvoorbeeld te analyseren om welke redenen werknemers vertrekken: is

het een kwestie van te weinig verdienen, te weinig kans op ontwikkeling, of lag het aan

een verkeerde manager? De bedoeling is dat inzichten die daaruit voortvloeien gebruikt

worden voor het aanpassen van bedrijfsstrategieën.

› Verbeteren van de zogenoemde ‘candidate experience’. Hieronder verstaan we het

toepassen van technologieën door werkgevers om het beeld dat een sollicitant zich vormt

gedurende het werving en selectieproces te beïnvloeden (onderdeel van employer

branding).

Als we kijken naar de functionaliteit van de technologieën, zien we grofweg twee categorieën

waarvoor een ‘nieuwe generatie’ digitale tools en instrumenten momenteel worden ingezet:

1. Actieve en gerichte benadering van een doelgroep

Technologieën die worden ingezet om op gepersonaliseerde wijzen organisaties en online

vacatures onder de aandacht van potentiële kandidaten te brengen en zo kandidaten te

werven. Hieronder verstaan we ook social media recruting, dat wil zeggen het gebruik van

social media en sociale netwerken door werknemers om sollicitanten te vinden en te

werven.

2. Beoordeling en selecteren van kandidaten met behulp van recruitmenttechnologie

Hier verstaan we technologieën onder die worden ingezet om kandidaten online te

beoordelen of selecteren.

Dit kunnen bijvoorbeeld geavanceerde chatbots zijn die na het doornemen van

Voorbeeld: Video-analyse bepaalt of je bij Hunkemöller past

“Lingerie kopen is een persoonlijke, soms haast intieme bezigheid. Zeker als een

verkoopmedewerker helpt om te kijken of een beha goed zit. “Vrouwen voelen zich kwetsbaar op

zo’n moment, in een pashokje, bloot, aangeraakt door iemand die ze niet kennen”, vertelt Anne

Jaakke, Global HR Director bij Hunkemöller. “Daarom is het zo belangrijk dat onze medewerkers de

juiste houding en persoonlijkheid hebben. Die haal je niet uit iemands cv, wel uit een gesprek.” Om

het sollicitatieproces te verbeteren en versnellen, startte Hunkemöller drie jaar geleden met

videoselectie. Kandidaten beantwoorden in een video-opname twee vragen die veel zeggen over

hun persoonlijkheid. Bijvoorbeeld over waar hun passie ligt. Recruiters beoordelen de video’s. Die

aanpak werkt goed, maar Jaakke wil vernieuwen, dinosaurussen uit de weg ruimen, zoals ze zelf

zegt. “Als we online shoppen vinden we het normaal dat we de bestelling de volgende dag in huis

hebben. Bij een sollicitatieprocedure, iets wat veel zwaarder weegt dan online shoppen, accepteren

we dat die lang duurt: landelijk 60 dagen, bij Hunkemöller 21 dagen. Dat komt door allerlei

dinosaurussen die we in het HR-proces hebben gecreëerd. Het is goed om daar af en toe eens

kritisch naar te kijken.” In dat proces zit Hunkemöller nu, want het bedrijf staat aan de vooravond van

een pilot met een nieuwe sollicitatieprocedure, om die te verkorten naar 5 dagen. Kandidaten

beantwoorden via een video een persoonlijkheidsvraag en worden daarna gevraagd om zich kort

voor te stellen. Al met al duurt het anderhalve minuut, waarna algoritmes, gebaseerd op onze

honderd succesvolste medewerkers, bepalen of iemand past bij het bedrijf en de klant. “Extraversie

kun je bijvoorbeeld zien aan de stand van iemands wenkbrauwen als hij of zij een woord benadrukt.

Door die algoritmes wordt de selectie objectiever en sneller, want als iemand geschikt is, krijgt de

storemanager de gegevens van de kandidaat via een app en kan ze direct een afspraak maken voor

een persoonlijk gesprek.”

BRON: special.nrc.nl/top-employers/droombaan


standaardvragen kandidaten kunnen aanbevelen voor een sollicitatiegesprek. Daarnaast

zijn er ook recruitmenttechnologieën gericht op gesproken of geschreven tekst, zoals

video-interviews of geautomatiseerde tekstanalyse. Online assessments of serious games

worden gebruikt om te beoordelen, algoritmes in zoekmachines worden gebruikt om te

selecteren.

In de onderstaande sub paragrafen worden per categorie voorbeelden van

recruitmenttechnologieën genoemd en bondig toegelicht op de volgende punten:

› Naam recruitmenttechnologie.

› Wat voor technologie is het?

› Hoe werkt het?

We hebben gekozen voor het beschrijven van de onderstaande voorbeelden, omdat we die

tijdens de internet search en interactie met het veld zijn tegengekomen als

recruitmenttechnologieën die momenteel in Nederland gebruikt (kunnen) worden. Deze

inventarisatie is slechts een beperkte selectie van het aanbod recruitmenttechnologie en geeft

daarom alleen een eerste indruk van de verscheidenheid en werkwijze van deze nieuwe

technologieën in het veld van werving en selectie.

5.2.1 Voorbeelden van recruitmenttechnologie gericht op actieve benadering van een

doelgroep

Naam recruitmenttechnologie

› Google Ads18

Wat voor recruitmenttechnologie is het?

› Google Ads is het online-advertentieprogramma van Google waarmee bedrijven reclame

kunnen maken via zoekcampagnes, bannercampagnes, videocampagnes, shopping-

campagnes en app-campagnes.

Hoe werkt het?

› Een ‘adverteerder’ (een bedrijf, of een adverteerder in opdracht van een bedrijf) kan tegen

betaling een vacature onder de aandacht brengen van een specifieke doelgroep. Deze

specifieke doelgroep wordt geselecteerd op basis van zoektermen. Alleen gebruikers die

aan de zoektermen voldoen, krijgen de vacature te zien. Een voorbeeld van een zoekterm

is regio, of plaats. Selectie op deze zoekterm gebeurt bijvoorbeeld door het analyseren

van zoekopdrachten van gebruikers of aan de hand van het IP-adres of doordat de

adverteerder de straal van de advertentie zelf afbakent. Voor het gebruik van Google Ads

heb je een Google account nodig.


› Wonderkind19


› Wonderkind is volgens eigen zeggen een volledig geautomatiseerd vacature marketing

platform dat bedrijven en recruitment organisaties helpt om een wervingscampagne op

social media uit te voeren.

Het gaat daarbij om vacatures onder de aandacht van mensen te brengen die niet direct

18 ads.google.com 19 wonderkind.com


op zoek zijn naar nieuw werk, maar potentieel interesse hebben. Wonderkind heeft

wereldwijd meer dan 1000 klanten, waaronder HEMA, KFC, Transavia, TATA Steel, Suez

en Dela.

Hoe werkt het?

Wonderkind zegt gebruik te maken van AI om vacatures gericht aan te bieden aan een

specifieke doelgroep door te adverteren op een bewust gekozen kanaal. Zo kunnen

mensen worden bereikt door te adverteren op de online media die zij dagelijks gebruiken.

Wonderkind richt haar vacatures op specifieke groepen, bijvoorbeeld op ict’ers in de

Randstad. Het bedrijf onderzoekt bij de doelgroep welke plaatjes en video’s het goed

doen en biedt de succesvolle varianten aan.


› MagnetMe20


› Het is een online platform gericht op het matchen van studenten en starters op zoek naar

werkgevers. De website geeft aan ongeveer 200.000 geregistreerde studenten en 2.500

geregistreerde werkgevers te hebben.

Hoe werkt het?

› Het biedt zowel bedrijven als studenten (op basis van hun cv) de mogelijkheid om een

profiel online aan te maken. Werkzoekende studenten en starters worden gevraagd om

persoonlijke informatie zoals studieachtergrond, werkervaring, interesses en andere

elementen online te zetten. Het systeem kijkt vervolgens of het profiel van een bepaalde

student matcht met het zoekprofiel van een bedrijf. Als dat het geval is krijgt de kandidaat

automatisch een netwerkverzoek. Als een kandidaat dat accepteert wordt zij/hij

toegevoegd aan het netwerk van het bedrijf en krijgt diegene voortaan updates binnen

als zij een baan of stage beschikbaar hebben. Door middel van deze technologie bouwen

bedrijven een netwerk op met kandidaten die worden aanbevolen door wat zij beschrijven

als een ‘AI gedreven’ systeem.


› Facebook advertising


› Facebook Advertising wordt normaal ingezet voor het adverteren van diensten en

producten. In dit geval maakt een werkgever gebruik van mogelijkheden die Facebook

biedt om vacatures of het bedrijf onder de aandacht te brengen. De werkgever maakt

gebruik van haar eigen Facebook pagina, die toegang geeft tot de betaalde optie

‘advertentiebeheer’.

Hoe werkt het?

› Een werkgever kan, via optie ‘advertentiebeheer’ op de eigen Facebook pagina, een

vacature aanbieden aan een hele specifieke groep potentiele kandidaten. Ze kunnen

hierbij selecteren op kenmerken zoals gender en interesses en gebruik maken van

profielen die door Facebook beschikbaar worden gesteld.

20 Magnet.me



› LinkedIn21


› LinkedIn stelt werkgevers in staat te zoeken in haar database van cv’s en om vacatures

te adverteren.

Hoe werkt het?

› Om te zoeken kan een werkgever gebruikmaken van een betaalde dienst, LinkedIn

Recruiter (Light). De werkgever verwerft dan een account (de Recruiter Seat) waarmee

gezocht kan worden op 44 aangeboden kenmerken, zoals locatie, taal, reviews, regio,

senioriteit, sector (Valkenburg, 2018). Selectie direct op basis van gender, leeftijd en

etniciteit is niet mogelijk. De selectie leidt tot een ranking op basis van de geselecteerde

kenmerken. Daarbij kan gebruik gemaakt worden van een aanbevelingssystem waarbij

kandidaten in de LinkedIn database met een vergelijkbaar profiel als de bekeken profielen

worden aangemerkt.


› LinkedIn Jobs


› Deze specifieke toepassing wordt aangeboden voor het adverteren van een vacature bij

gekozen doelgroepen.

Hoe werkt het?

› Het platform levert een ‘matchingsdienst’ waarbij 50 geschikte profielen van kandidaten

worden aangeleverd. Met Direct Ads kan bovendien een ‘banner’ worden gekocht die

verschijnt bovenaan de pagina van een lid. Tot slot kunnen werkgevers ook banners

publiceren met Work-With-Us-Ads, waarbij gebruik wordt gemaakt van data van het

surfgedrag van huidige werknemers om de beste pagina’s te vinden om te adverteren

voor toekomstig personeel.


› Twitter22


› Twitter kan met name gebruikt worden om personen te benaderen via netwerken, te

adverteren onder volgers en hashtags, via zoekopties en via Twitter’s

advertentiemogelijkheden (Valkenburg, 2018).

Hoe werkt het?

› Wat betreft advertentiemogelijkheden kan in Nederland geen gebruik gemaakt worden

van ‘promoted tweets’. De andere optie, Twitter Ads, stelt adverteerders in staat om

doelgroepen samen te stellen op basis van gender, locatie, sleutelwoorden, interesses

en gespreksonderwerpen. Ook kan van een lijst Twitter gebruikers in het eigen netwerk

een aantal kenmerken worden afgeleid om een nieuw profiel voor het verspreiden van

een advertentie te vormen.

21 LinkedIn.com 22 Twitter.com


5.2.2 Voorbeelden van recruitmenttechnologie gericht het selecteren en beoordelen van

kandidaten


› WhatsApp Business API23 (chatbot)


› Online communicatiekanaal waarmee bedrijven en kandidaten tijdens de werving en

selectiefase met elkaar in contact kunnen komen.

Hoe werkt het?

› Het solliciteren via WhatsApp vindt onder andere plaats bij de Jumbo supermarkt en de

Action24. Bij de Action kunnen kandidaten via de website van het bedrijf online hun

mobiele nummer invullen en ontvangen ze automatisch een bericht in WhatsApp via een

chatbot. Vervolgens worden er een aantal vragen gesteld als intake. Zo wordt er

gevraagd naar de postcode, leeftijd en aantal uren dat je wilt werken. De kandidaat kan

hier via WhatsApp op reageren. Als je aan de eisen voldoet (oud genoeg, voldoende

aantal uren etc.), wordt je gebeld voor een telefonische intake.


› Joboti25 (chatbot)


› Online communicatiekanaal waarmee bedrijven en kandidaten tijdens de werving en

selectiefase met elkaar in contact kunnen komen.

Hoe werkt het?

› Joboti zegt AI toe in te zetten in de ontwikkeling en toepassing van een chatbot die in

staat is om gesprekken te voeren. Bij aanschaf van de Joboti chatbot krijgt de klant een

aantal basisgesprekken. Door het systeem in te zetten leert de chatbot van wat de

gesprekspartners van deze werkgever zeggen en doen, en kan het reacties en informatie

onthouden en inzetten. Volgens eigen zeggen voert de Joboti chatbot dagelijks

honderden gesprekken met kandidaten van verschillende opdrachtgevers. Op basis van

die gesprekken wordt de chatbot getraind. Klanten kunnen deze tool helemaal aanpassen

aan het karakter het bedrijf.


› Seedlink26


› Volgens eigen zeggen past Seedlink AI toe om te voorspellen, op basis van iemands –

geschreven of gesproken – taalgebruik, of een kandidaat bij een baan of een

bedrijfscultuur past. Seedlink licht toe dat analyse niet alleen geschiedt op basis van

specifieke woorden, maar (ook) op basis van context en het totaal van een gesproken

tekst. In de analyse maakt Seedlink ook gebruik van zogeheten ‘metacues’ in iemands

taalgebruik; indicatoren van iemands persoonlijkheid. Volgens Seedlink bevat taal

informatie over voorkeuren, drijfveren en gedrag.

23 whatsapp.com/business/api?lang=nl 24 https://flow.ai/blog/HR-chatbot-voor-recruitment-solliciteren-via-whatsapp 25 Joboti.com 26 https://www.seedlinktech.com/


Hoe werkt het?

› Analyse geschiedt op basis van digitale video interviews van zo’n 20 minuten, via een

mobiele telefoon of een ander device en via video of tekst. De werkwijze van Seedlink is

om eerst binnen het betreffende bedrijf te onderzoeken welk taalgebruik samenhangt met

succes, zoal Joosten-Rabou - een van de oprichters van Seedlink - zegt in een

interview27: ‘Dan vragen we de HR-mensen wie zij rekenen tot hun topperformers, en

onderzoeken we vervolgens via een steekproef waarin hun taalgebruik verschilt met dat

van de anderen. Dat zegt dan ook iets over het taalgebruik van de kandidaten die

succesvol zullen zijn.’ Naast l’Oréal hebben bedrijven als Accenture, Danone, Deloitte en

Heineken hebben de afgelopen jaren met deze tool ervaring opgedaan in China.

Inmiddels is de tool ook in het Nederlands beschikbaar; in het openbare domein is geen

informatie beschikbaar over het gebruik in Nederland.


› Cammio28


› Cammio is een cloud based online video recruitment platform. Cammio kan op

verschillende wijzen worden ingezet: om via een video meer informatie te geven over de

werkgever (bijvoorbeeld een video die de werkvloer in beeld brengt); voor het opnemen

van een pitch van de sollicitant; voor het uitvoeren van een automatisch, gestructureerd

sollicitatiegesprek; voor een live sollicitatiegesprek; en om op basis van beeldmateriaal

een persoonlijkheidsanalyse uit te voeren.

Hoe werkt het?

› De geautomatiseerde video interviews houden in dat een sollicitant een aantal

gestandaardiseerde vragen krijgt voorgelegd zonder directe tussenkomst van een

persoon. Iedereen krijgt dezelfde tijd voor de beantwoording van de vragen. De

algoritmes van Cammio analyseren de videosollicitaties vervolgens op redeneringen,

woordgebruik en intonatie. Dit vertaalt zich in een persoonlijkheidsprofiel, gebaseerd op

de ‘Big Five’-theorie over vijf karakterdimensies, zoals open versus gesloten, extravert

versus introvert en consciëntieus versus slordig en 30 sub-dimensies. Volgens Cammio

komt daarom voor iedere kandidaat een profiel beschikbaar dat kan worden vergeleken

met een gemiddelde of zelfs een benchmark profiel van zogenaamde top-performers

binnen een bepaalde functie. Momenteel gebruiken al tal van organisaties de video

interviews in hun werving-en-selectieproces. Denk aan de gemeentes Rotterdam en

Amsterdam, maar ook bijvoorbeeld KLM, Randstad en het ministerie van Buitenlandse

Zaken maken hier gebruik van (al dan niet via een uitzendbureau).


› Hirevue29


› Het is intelligente software voor het online afnemen van een video-interview. Kandidaten

kunnen hun gesprek via de webcam van hun computer of de camera van hun telefoon

voeren. Deze Amerikaanse videosollicitatiedienst heeft klanten als Unilever, Goldman

Sachs en – ook op het Europese hoofdkantoor in Hilversum – Nike.

27 https://www.werf-en.nl/seedlink-voorspelt-succes-aan-taalgebruik/ 28 Cammio.com 29 Hirevue.com


Hoe werkt het?

› Sollicitanten beantwoorden vragen op het scherm en Hirevue beoordeelt de opgenomen

video’s op woordkeus, stemklank en ‘micro-expressies’. De software van Hirevue splitst

de videosollicitaties uit in tienduizenden minuscule observaties, plakt daar een score op

en vergelijkt die met de scores van vijf miljoen eerdere videosollicitanten.

Voorbeeld: Trainee selectie bij Unilever

Bij Unilever komt er bij de werving en selectie voor het trainee Unilever Future Leader Programma

nauwelijks nog een cv of recruiter aan te pas. Vrijwel het hele proces gaat digitaal. Van alle ongeveer

100 sollicitanten per jaar die graag een traineeship bij Unilever willen bemachtigen, komen er

uiteindelijk zes terecht in het eigen assessmentcentrum; het zogeheten Discovery Centre. Maar

voordat het zover is, moeten alle kandidaten door drie (vrijwel) volledig digitale fases, die in principe

binnen een dag kunnen laten weten of je door bent – of niet. Pas wanneer een kandidaat wordt

uitgenodigd voor een assessment in het Discovery Centre, komen zij in contact met daadwerkelijke

mensen van het bedrijf.

Fase 1: online sollicitatiefase

Kandidaten worden via de website van Unilever uitgenodigd online te solliciteren met hun LinkedIn-

profiel

Fase 2: serious gaming

In deze fase moeten kandidaten thuis binnen een uur 12 online spellen spelen. Die spellen testen

hun zogenoemden ‘future leadership‘ aan de hand van allerlei persoonskenmerken, zoals

probleemoplossend vermogen, communicatieve vaardigheden, behendigheid en risicobereidheid.

Fase 3: het digitale interview

In deze fase wordt de kandidaat in een digital interview gevraagd om real-life problemen op te

lossen. Zij moeten de antwoorden op de van te voren opgenomen vragen via de webcam

beantwoorden. AI scoort hoe goed de kandidaten het doen, qua gedrag, wat de kandidaat zegt,

maar ook hoe hij/zij het zegt. Unilever rankt de antwoorden van de kandidaten automatisch aan de

hand van een model gebaseerd op de antwoorden van zijn eigen beste kandidaten.

Fase 4: Het Discovery Centre

De beste kandidaten uit deze eerste 3 onderdelen, worden uiteindelijk uitgenodigd om persoonlijk

een dag mee te draaien in het Discovery Centre. Daar komt voor het eerst het cv van de kandidaat

op tafel.

De 25.000 kandidaten die erover een enquête invulden, gaven de nieuwe procedure gemiddeld een

4,1, op een schaal van 1 tot 5.

BRON: werf-en.nl/hoe-unilever/



› Pymetrics30


› Pymetrics biedt online games aan, welke zij beschrijft als ‘gamified assessments’

(Pymetrics, 2019). Het gaat hier om online assessment testen die werkgevers kunnen

laten uitvoeren met daarin een spelelement.

Hoe werkt het?

› Tijdens het spelen van deze online games worden kandidaten bijvoorbeeld beoordeeld

op grond van getoonde karaktereigenschappen zoals nieuwsgierigheid,

aanpassingsvermogen en risico’s nemen. De spellen zijn gebaseerd op inzichten uit de

neurowetenschappen en inzichten uit de gedragspsychologie, zo vermeld het bedrijf.

Voorts zegt Pymetrics AI in te zetten om de match met een functie te voorspellen. De

werkgever levert de kenmerken aan waarop kandidaten voor een bepaalde functie getest

moeten worden. Vervolgens worden de resultaten van de kandidaat gebenchmarkt op

een groep mensen in die functiegroep en op een baseline-groep die bestaat uit de

testresultaten van huidige werknemers (Pymetrics, 2019). Op basis van AI wordt een

inschatting gemaakt van het zogenoemde ‘future potential’ van de kandidaat. Pymetrics

heeft wereldwijd meer dan 50 klanten, waaronder Unilever, Randstad, McDonald’s,

Accenture en Hilton.


› MatchQ Assessments31


› De MatchQ bestaat uit meerdere online assessments waarmee zij claimen niet alleen

medewerkers en kandidaten te kunnen beoordelen wie zij zijn, maar ook hoe ze in de

dagelijkse praktijk (gaan) presteren. Opdrachtgevers wordt gevraagd wat zij willen weten

van de kandidaten, welk gedrag zij willen zien op de werkvloer en wat de kritische

performance indicatoren zijn. Op basis van die informatie stelt MatchQ een normprofiel

op en wordt de selectiefunnel ingericht. MatchQ is opgericht in 2005 en maakte als een

van de eerste partijen assessments online beschikbaar voor grote groepen werknemers

en sollicitanten. Zij richten zich op vacatures met een hoge omloopsnelheid en grote

aantallen kandidaten en maakten al in vroeg stadium gebruik van big data en algoritmes

in het selectieproces. Zij geven aan dat het hun doel is om aan de hand van

selectiemodellen de kwaliteit van de instroom te verbeteren en het verloop van personeel

terug te dringen.32

Hoe werkt het?

› De MatchQ ‘selectiefunnel’ bestaat uit zeven stappen:

1. Eerste selectie: MatchQ voorspelt op basis van data gedreven selectiemodellen

welke kandidaat succesvol zal functioneren in de betreffende positie. Dit leidt tot

een eerste selectie.

2. SkillIndicator: er wordt getest welke vaardigheden de kandidaat al in huis heeft. Wat

moet de kandidaat reeds “kunnen” alvorens te solliciteren naar de functie? Hoe

goed kan hij bijvoorbeeld typen, luisteren of met computersystemen werken? Klant-

en functiespecifieke content wordt in een vaardigheidstoets geplaatst.

30 pymetrics.com 31 matchq.nl 32 https://matchq.nl/talent-assessments/


3. GedragsIndicator: geeft zicht op voorkeursgedrag: wat doet iemand in zijn

werkomgeving, wat geeft energie?

4. NiveauIndicator: meet het werken denkniveau van de kandidaat, aan de hand van

logisch en analytisch redeneren met verbaal- en cijfermateriaal

5. VideoIndicator: Sollicitanten moeten zich presenteren in een korte video pitch. Elke

kandidaat heeft 30 seconden om een aantal korte vragen te beantwoorden.

6. Risico algoritmes: Door het koppelen van vaardigheden, gedrag en competenties

aan resultaat in een specifieke functie ontwikkelt MatchQ algoritmes die worden

ingezet in het selectieproces. Naast deze aanpak onderzoekt en synchroniseert

MatchQ de visie op gewenst gedrag in de functie in verschillende

managementlagen. Dit leidt volgens MatchQ tot normprofielen met een hoge

voorspellende waarde over succes en falen in de functie.

7. Rapportages: Beschrijving van resultaten en het geven van gericht inzicht aan

kandidaten en selecteurs.


› Crystal Knows


› Het is een tool die volgens dit bedrijf van iedereen een persoonlijkheidsprofiel kan maken

- met communicatietips, drijfveren en karaktereigenschappen - op basis van het

internetspoor dat iemand achter laat. In een dashboard kun je een persoon opzoeken op

basis van verschillende kenmerken zoals e-mailadres, naam, organisatienaam. Bij 2 zegt

het bedrijf een profiel te kunnen leveren. Hoe werkt het?

› Om tot inzichten te komen over iemands persoonlijkheid (bijv. tolerantie voor risico) zegt

Crystal Knows ‘online gegevenspunten’ te gebruiken. In de praktijk kan het (in het geval

van het gebruik van een Chrome-extensie) gaan om de analyse van cv’s en

gebruikersgedrag op LinkedIn en andere social media platformen. Vervolgens geeft

Crystal Knows ook advies over hoe deze persoon het beste benaderd kan worden in een

tekstbericht of telefoongesprek; dit is de voorspellende functie (Crystal, 2019). Het bedrijf

biedt ook software voor persoonlijkheidstesten aan.

5.3 Risico’s: versterken van bias in selectie

Als de technologie alleen gebruikt wordt om te communiceren (bij een aantal chatbots en video

sollicitaties het geval) zijn er beperkte risico’s aan verbonden. Eén van de risico’s is dat deze

manier van communiceren voor mensen die niet gewend zijn aan deze technologie een

drempel kan vormen om te solliciteren. Ook kan een introverte of extraverte persoonlijkheid

een rol spelen bij het gebruik van deze technologie. Mensen met een introvert karakter zullen

zich over het algemeen minder comfortabel voelen bij een dergelijk onderdeel, dat geldt ook

voor kandidaten die minder zeker zijn over hun voorkomen. Uiterlijke kenmerken kunnen een

rol spelen bij (bewuste of onbewuste) discriminatie. Als gebruikgemaakt wordt van video-cv’s

en video interviews zijn deze kenmerken nu al eerder in het werving- en selectieproces

zichtbaar. Een online toepassing zorgt wel voor meer standaardisering van het proces. Iedere

kandidaat krijgt dezelfde vragen voorgelegd, ongeacht zijn of haar kenmerken.


Wat opvalt tijdens de internet search naar het aanbod en de toepassing van recruitment

chatbots is dat afnemers van deze technologie de mogelijkheid wordt aangeboden om ‘zelf’

hun chatbot kunnen ‘bouwen’. Daarnaast zijn er tal van bedrijven op internet die hulp

aanbieden bij het ‘zelf bouwen’ van een chatbot. Aanbieders geven afnemers toegang tot een

platform waar zij hun chatbot zelf naar eigen inzichten kunnen aanpassen. Hierin schuilt het

risico dat er instellingen worden gekozen die leiden tot (onbewuste) discriminatie of uitsluiting.

In veel van de technologieën wordt gebruik gemaakt van algoritmes. Veel algoritmes worden

ontwikkeld met behulp van een trainingsdataset. Daarvoor wordt vaak een dataset gebruikt

van kenmerken van succesvolle medewerkers of succesvolle kandidaten uit het verleden. Als

het huidige personeelsbestand van een bedrijf niet divers is, dan zal dit soort trainingsdatasets

en de algoritmes die met deze datasets worden ontwikkeld een bias bevatten. Deze bias wordt

door het gebruik van het algoritme versterkt. Als in een bedrijf vooral vrouwen werken, dan is

de kans groot dat succesvolle medewerkers ook vrouw zijn. De potentiele kandidaten worden

vervolgens getoetst op vaardigheden die vaker voorkomen bij vrouwen. De kans dat een

vrouw positief beoordeeld wordt is daarmee groter dan de kans dat een man positief

beoordeeld wordt, waardoor vrouwelijke vaardigheden als succeskenmerk worden versterkt.

Ook als de kenmerken van succesvolle kandidaten door recruiters zelf worden vastgesteld

kan dit een (menselijke) bias bevatten die door het zelflerend algoritme wordt versterkt.

Het gebrek aan transparantie over trainingsdata kan een risico vormen voor de

betrouwbaarheid van de toepassing.

Dat geldt ook voor de toepassing van intelligente video-interview systemen. Jaïri Terpstra,

werkzaam bij Unilever in HR Leadership Development, zegt in een interview met Intermediar33

over de ervaring binnen Unilver met het Hirevue video systeem: ‘De scores van het digitale

interview waren de eerste keer lager dan van een recruiter, maar de tweede keer zagen we

dat het algoritme steeds slimmer werd, en nu liggen de scores van de recruiter en het algoritme

veel dichter bij elkaar. Dus we zijn heel benieuwd wat de software nu heeft bijgeleerd.’

Een ander risico bij het gebruik van algoritmes waarmee kenmerken van kandidaten aan

kenmerken van een trainingsdataset (bijvoorbeeld van succesvolle voorgangers) worden

vergeleken is de validiteit van de gebruikte metingen. Zijn de indicatoren waarmee

‘succesvolle medewerkers’ worden geselecteerd (bijvoorbeeld performance reviews) wel echt

indicatoren van succes? Meet je met zoekgedrag op LinkedIn wel echt resultaat gerichtheid

van een potentiele kandidaat? Ook de kwaliteit van gebruikte apparaten als mobiele telefoon

of webcam kan een mogelijk risico vormen. Hoogleraar psychologie Jaap Denissen34 betwijfelt

bijvoorbeeld of webcambeelden scherp genoeg zijn voor de software van Hirevue om het

verschil te zien tussen een echte en een gemaakte glimlach. ‘Bij een echte glimlach, ook wel

Duchenne-glimlach genoemd, krullen de lippen iets meer omhoog en twinkelen de ogen net

iets meer dan bij een gemaakte glimlach. Webcams zijn denk ik nog niet verfijnd genoeg om

dat verschil te kunnen zien.’ Dit kan problematisch zijn, omdat mensen zich anders kunnen

gaan gedragen als videosollicitaties eenmaal gemeengoed zijn. Als werkgevers bijvoorbeeld

graag positieve werknemers zien, dan kunnen sollicitanten overdreven lachen om de software

te misleiden. ‘Dan slaan we toch een beetje de plank mis.’

33 https://www.intermediair.nl/beroepen-functies/hr-en-recruitment/de-computer-als-filter-van-

sollicitanten?utm_referrer=https%3A%2F%2Fwww.google.nl%2F 34 https://www.volkskrant.nl/nieuws-achtergrond/solliciteren-per-webcam-met-een-monoloog-het-

algoritme-overtuigen-van-uw-kwaliteiten~bec51eaf/?referer=https%3A%2F%2Fwww.google.com%2F


De traditionele vorm van assessment (veelal door een assessmentbureau uitgevoerd) kost

veel tijd en geld. Een traditionele assessment wordt daarom aan het eind van het

selectieproces ingezet bij de twee, drie overgebleven kandidaten. Online assessment is een

stuk minder kostbaar en tijdrovend en wordt daarom veel eerder in het selectie proces en bij

veel meer kandidaten ingezet. Aan online assessment methoden kleven een aantal risico’s:

assessmentmethoden kunnen een bias bevatten. Er is veel onderzoek gedaan naar

traditionele vormen van assessment en het risico op bias dat deze tests bevatten (de validiteit

van de testen). Inmiddels is een aantal valide methoden ontwikkeld voor traditionele

assessments die door gerenommeerde assessmentbureaus ingezet worden. Echter, er is veel

minder onderzoek gedaan naar het risico op bias in de verschillende online assessment testen

en de validiteit van deze testen (de specifieke games of vragenlijsten die gebruikt worden).

Omdat de testen niet altijd via een assessmentbureau worden ingezet is het risico op het

gebruik van niet gevalideerde tools, die een bias bevatten, groot. Beoordeling op basis van

videoanalyses of (gesproken)tekst analyses kunnen een culturele bias bevatten. De generatie

die niet gewend is aan gebruik van online tools zal zich wellicht ook minder makkelijk

presenteren via deze middelen.

5.3.1 Wat zegt de praktijk over het gebruik van recruitment technologie

Belangrijk onderdeel bij de uitvoering van de verkenning is het betrekken van professionals

die deskundigheid hebben op het gebied van recruitment technologie of praktijkervaring

hebben met het gebruik ervan. Dat hebben we gedaan door het organiseren van een

discussietafel en het houden van elf diepte-interviews. Wij hebben ons in dit rapport vooral

gericht op de risico’s op discriminatie van het gebruik van recruitment technologieën. Veel

geïnterviewde recruiters gaven echter aan dat ze deze technologieën vooral gebruikten om

diversiteit in hun organisatie te vergroten.

5.4 Wijzen waarop recruitment technologieën worden ingezet

Inzet bij werving van personeel

De geïnterviewde recruiters zijn over het algemeen enthousiast over het gebruik van

recruitment technologieën. Met name wanneer grotere groepen medewerkers moeten worden

geworven, bijvoorbeeld voor callcenters, zijn technologieën efficiënt. Maar ook de

mogelijkheid om potentiële kandidaten gericht te benaderen wordt als een voordeel gezien,

bijvoorbeeld als het gaat om moeilijk opvulbare vacatures. De toepassing van recruitment

technologie maakt het op efficiënte wijze mogelijk om voor verschillende typen vacatures

verschillende wervingsstrategieën en kanalen te gebruiken. Voor moeilijk in te vullen banen

(bijvoorbeeld specialisten, maar ook banen waarvoor ook door andere bedrijven flink wordt

geworven, zoals chauffeurs) kan, al dan niet in samenwerking met derde partijen, marketing

recruitment worden ingezet om op actieve wijze doelgroepen digitaal te benaderen. ‘Moderne

technologieën’ worden door werkgevers en intermediairs ook wel ingezet in hun

recruitmentproces omdat kandidaten dat interessant en aantrekkelijk vinden.

De recruitment technologieën worden zelden ingezet zonder menselijke tussenkomst.

Geïnterviewden benadrukken dat de technologieën dienen ter ondersteuning van het

menselijk handelen. Echter door gebruik van advertentie profielen van Facebook, of door

matchingsfuncties van LinkedIn kan er al een voorselectie plaatsvinden voordat een mens

betrokken raakt. Op basis van het literatuuronderzoek is al geconcludeerd dat de inzet van

Facebook en LinkedIn verschilt en gerelateerd is aan opleidingsniveau.


Ook uit de interviews blijkt dat Facebook vaker wordt ingezet voor vacatures waarvoor een

lager opleidingsniveau vereist is en LinkedIn meer gebruikt wordt voor het werven van hoger

opgeleide kandidaten. Campagne bureaus helpen om een mix aan sociale media in te zetten.

Recruitment technologieën bedoeld om gericht kandidaten te werven worden meer ingezet

dan recruitment technologieën die gebruikt worden om kandidaten te beoordelen en te

selecteren. Recruiters zijn ten aanzien van deze laatste technologie huiverig, omdat de

validiteit van een groot deel van deze technologieën nog niet is aangetoond. Tegelijkertijd

wordt ook aangegeven dat technologieën al wel gebruikt worden, terwijl de waarde ervan nog

niet is aangetoond

Inzet bij het selecteren en beoordelen van kandidaten

In de huidige praktijk van werving en selectie worden recruitment technologieën al gebruikt

om mensen te beoordelen en mede op basis van een geautomatiseerde beoordeling te

selecteren. Redenen om deze technologieën te gebruiken zijn divers. Bedrijven gebruiken het

om snel en efficiënt een selectie te kunnen maken uit een grote hoeveelheid sollicitanten.

Online assessment kunnen bijvoorbeeld online worden afgenomen wat efficiency voordeel

kan opleveren als het gaat om het beoordelen van grotere hoeveelheden kandidaten. Een

dergelijke pre-selectie kan worden uitgevoerd voordat er een gesprek heeft plaatsgevonden.

Bovendien zijn sommige assessmenttools ook leuk, kandidaten krijgen een goed inzicht in de

functie en het bedrijf. Ook hier wordt genoemd dat het gebruik van online assessmenttools

een wervingsstrategie kan zijn.

Een aantal bedrijven gebruikt technologieën om een betere match te maken en zo het verloop

van werknemers te beperken. Online selectie is niet alleen voor werkgevers een stuk

gemakkelijker maar ook voor werkzoekenden. Een van de uitzendbureaus noemt het een

service niet alleen voor werkgevers maar ook voor werkzoekenden. Voor functies van een

hoger niveau worden door een enkel bedrijf ‘traditionele assessments’ ingezet. De deelnemers

aan de discussietafel waren voorzichtiger. Zij hebben minder vertrouwen in de technologieën,

vooral omdat toets op validiteit ontbreekt. De geïnterviewde recruiters geven aan dat waarden

en competenties die passen bij de functie en intelligentie belangrijke criteria zijn waarop wordt

geselecteerd, deels ook met behulp van digitale recruitment technologieën. Ook regio wordt

vaak als selectie criterium genoemd.

Vooral bij het gebruik van video-interviews en online assessments waren de geïnterviewde

zich bewust van een mogelijke invloed op inclusiviteit. Werkgevers geven ook aan zij het

belangrijk vinden om inclusiviteit te bevorderen. Enkele werkgevers waren ook deels

afhankelijk van het aantrekken van personeel uit een internationale pool. Voor video interviews

gold dat deze veelal een introductie van de werkvloer bevatten. Een aantal geïnterviewde

werkgevers probeerden dit beeld zoveel mogelijk inclusief te maken, bijvoorbeeld door huidig

personeel van verschillende leeftijden en herkomsten te laten zien. Ook besteedden zij

aandacht aan het taalgebruik van de gestelde vragen. Het geïnterviewde assessmentbureau

gaf aan bij de ontwikkeling van testen en het trainen van werkgevers aandacht te besteden

aan de risico’s op uitsluiting op basis van taalcompetenties en culturele factoren.

Ook voor het gebruik van recruitment technologieën voor selectie en beoordeling geldt dat

deze technologieën zelden worden ingezet zonder tussenkomst van een mens.


Maar ook hier geldt dat bijvoorbeeld online assessments relatief sterk geautomatiseerd zijn,

omdat deze ‘killer questions’ kunnen hanteren, of mensen die onder een bepaalde norm vallen

kunnen uitsluiten. In het geval van online assessments zeggen geïnterviewden geen mogelijk

gevoelige informatie te verzamelen die kan leiden tot discriminatie. Zij vermelden dat de testen

zich richten op het testen van waarden, competenties en in sommige gevallen intelligentie.

Hoe geautomatiseerd de besluitvorming is hangt af van de wijze waarop managers worden

betrokken, één geïnterviewde gaf bijvoorbeeld aan dat de managers alle scores te zien krijgen.

Hierbij zei de werkgever echter ook dat dit in de toekomst, als de technologie beter is

gevalideerd, kan veranderen.

5.5 Inschatting van risico’s door gebruikers van recruitment technologie

Welke risico’s van recruitment technologie bij werving van personeel zien respondenten?

Risico op uitsluiting van kandidaten wordt door de meeste respondenten niet gezien. Zij

stellen: “Bij LinkedIn is geen risico op bias of uitsluiting” of “wij doen alles GDPR proof, daar

hebben we een eigen officer voor”. Er zijn maar drie respondenten (de uitzendbureaus) die

aangeven dat er een risico kan zijn op onbedoelde uitsluiting, bijvoorbeeld omdat iemand niet

het juiste ‘online’ netwerk heeft of niet de vaardigheden heeft om online met een bedrijf in

contact te komen.

Welke risico’s van recruitment technologie bij beoordeling en selectie zijn respondenten

De meeste respondenten zien meer voordelen dan risico’s van de online systemen. Alle

kandidaten krijgen dezelfde vragen voorgelegd, door te selecteren op vooraf vastgestelde en

hele feitelijke criteria komt een selectie van “iemand die op mij lijkt” minder voor. Het feit dat

“er geen mens meer tussen zit” wordt vooral als een voordeel gezien. Van belang is wel “dat

het model goed in elkaar zit”. Een aantal bedrijven heeft de recruitment technologie wel

getoetst, bijvoorbeeld door selectie door de technologie te vergelijken met selectie door een

recruiter of door te analyseren of alle doelgroepen voldoende vertegenwoordigd zijn in het

bestand van kandidaten. En in sommige bedrijven worden de resultaten van de online

assessments in een gesprek met een kandidaat getoetst. Deelnemers aan de discussietafel

waren voorzichtiger met deze technologie. Het gebrek aan validatie van veel van de

technologieën weerhoudt hen deze te gebruiken.

Respondenten geven wel aan dat het van belang is niet ‘blind’ te vertrouwen op een systeem.

“je moet het systeem kunnen snappen, de uitkomsten kunnen interpreteren in real-life en als

nodig ook ter discussie durven stellen. Dat vraagt veel van de competentie van de recruiter.”

In veel bedrijven worden recruiters getraind in het gebruik van de recruitment technologieën.

Gedragscodes. De privacywetgeving wordt het vaakst genoemd als toetsingskader en de

gedragscodes gaan ook veelal over omgang met privacy gevoelige gegevens. Slechts een

van de respondenten geeft aan dat inclusie een belangrijk onderdeel is in de gedragscode.

Geen van de respondenten maakt expliciet melding van toetsing van recruitment technologie

aan de wet gelijke behandeling. De verantwoordelijkheid voor het goed gebruik van de

recruitment technologie wordt door werkgevers veelal bij de recruiters en HR professionals

gelegd, met de CEO als eindverantwoordelijke.


Een genoemd verbeterpunt is het gebruik van data. Om een goed beeld te krijgen van de

kwaliteit van de recruitmentprocessen zou meer gemeten moeten worden. Dit wordt ook

genoemd door deelnemers aan de discussietafel: de cultuur van het HR veld is nog heel erg

gericht op mensen en veel minder op technologie en data. Veel van de recruitment technologie

is op dit moment alleen nog maar betaalbaar voor bedrijven met een groot budget.

Toekomst? De meeste respondenten verwachten dat in de toekomst in hun vakgebied meer

data gedreven gewerkt zal gaan worden en dat mede daardoor de rol van en de vraag naar

recruiters zal veranderen. Deze ontwikkelingen passen volgens een respondent bij de

ontwikkelingen in de arbeidsmarkt (veel meer richting flexibele contracten). Google wordt door

meerdere respondenten als een belangrijke (en in de toekomst de belangrijkste)speler in dit

veld gezien door de komt van Google for Jobs.

De HR cultuur en is van oudsher niet technologische ingestoken, waardoor recruiters zich niet

altijd bewust lijken van het feit dat ze met data-gedreven systemen werken. Ze beschouwen

recruitment systemen soms als ‘een digitale kaartenbak’ en zijn zich nauwelijks bewust van

de risico’s op discriminatie of uitsluiting door het gebruik van technologie.

Gebrek aan kennis over data gedreven technologie leidt tot een onderschatting van de risico’s

op discriminatie van recruitment technologieën bij gebruikers. De oplossingen die bedacht

worden om risico’s te mitigeren zijn vaak (te) eenvoudig (‘we gebruiken gewoon geen

gevoelige kenmerken dus we discrimineren niet’).

Ze vertrouwen erop dat ‘anderen’ (vaak een privacy officer of een programmeur) bewaken dat

de technologieën goed zijn en leiden tot een eerlijk en goed selectieproces. Een helder beeld

over wat ‘goed is’ en wie dat zou moeten bepalen is er niet.

Er is met name weinig bewustzijn van mogelijke discriminerende effecten door het gebruik van

social media. Hoewel het besef dat de profilering van iemand op social media een effect heeft

op selectie wel aanwezig is (“als je je afwijkend (of niet) op social media profileert heeft dit

effect op je kans om uitgenodigd te worden”), zien ze er geen bezwaar in social media te

gebruiken in het recruitment proces. Social media worden vooral gebruikt door de nieuwe

partijen in het veld, zoals communicatiebureaus of marketingbureaus. Recruiters lijken weinig

zicht te hebben op de wijze waarop selecties gemaakt worden.

5.6 Conclusies: wat zien we in de praktijk?

Opvallend is dat er nauwelijks bewustzijn is als het gaat om risico’s op (onbedoelde)

discriminatie en uitsluiting door het gebruik van (data gedreven) recruitment technologie.

Daarnaast hebben recruiters en HR professionals veel vertrouwen in de Gegevens

Functionarissen binnen organisaties, dat zij ook de risico’s op discriminatie uitsluiten, hebben

ze beperkte technische kennis van de gebruikte systemen en veel vertrouwen in de goede

intentie van betrokken personen en partijen bij het recruitmentproces.

Recruiters en HR professionals zien voornamelijk de voordelen van recruitment technologie.

Een belangrijke ‘driver’ hiervoor is het efficiënter maken van bedrijfsprocessen. Hierdoor

kunnen recruiters en HR professionals met name in de eerste fasen de tijdrovende en vaak

herhalende processen automatiseren en meer aandacht besteden aan de selectie en

beoordeling van de meest kansrijke kandidaten.


Hierin schuilt het risico, dat door het gebruik van technologie in de begin fasen van het

recruitmentproces, potentiële kandidaten onterecht buiten de procedure zijn gevallen.

Verwacht wordt dat er in de toekomst steeds meer gebruikt zal worden gemaakt van

recruitment technologie en dat vinden zij dat een positieve ontwikkeling, mits technologie ook

‘goed’ wordt ontwikkeld. Over wat ‘goed’ in dit geval is, bestaat nog geen eenduidig beeld.


6 Juridische verkenning

Uit de voorgaande presentatie van de verschillende nieuwe instrumenten voor werving en

selectie kan worden afgeleid dat er in het algemeen sprake is van verwerking van

persoonsgegevens waarbij het ook kan voorkomen dat er zogenaamde ‘gevoelige’

persoonsgegevens verwerkt worden. Deze categorie van gegevens mag niet verwerkt worden

tenzij er een uitzondering kan worden aangevoerd. In bijlage B presenteren we een uitvoerige

analyse van de doorwerking van de Algemene verordening gegevensverwerking (AVG) op

processen voor werving en selectie waarbij persoonsgegevens worden verwerkt. In deze

hoofdrapportage geven we een kort beeld van de belangrijkste bevindingen van de

uitgevoerde analyse.

Traditioneel spelen de wetten gelijke behandeling een belangrijke rol in het aan de kaak stellen

van directe of indirecte vormen van discriminatie bij het arbeidsproces. Door het

samenbrengen van verschillende gegevenssoorten ontstaan profielen van mensen die

gebruikt kunnen worden voor de beoordeling van bijvoorbeeld de geschiktheid van deze

mensen voor een openstaande vacature. Te denken valt aan het beoordelen van

gelaatsuitdrukkingen. Het kan zijn dat hier een cultureel element in meespeelt. Als dergelijke

specifieke karakteriseringen een rol spelen in de beoordeling (hetzij omdat ze herkend worden

hetzij omdat ze niet herkend worden en daardoor ten onrechte een verkeerd beeld over de

betreffende persoon ontstaat) kan sprake zijn van een directe (eerste geval) of een indirecte

(tweede geval) vorm van discriminatie. De wetten gelijke behandeling bieden mogelijkheden

om deze vormen van discriminatie aan te pakken.

De AVG voegt daar een nieuw instrumentarium aan toe. De AVG is wat scherper op een aantal

zaken dan zijn voorganger, de Europese Gegevensbeschermingsrichtlijn. Voor een

gedetailleerd overzicht van de doorwerking van de AVG op werving en selectie verwijzen we

naar bijlage B. Hier behandelen we de hoofdpunten.

Om te beginnen, de AVG vereist dat er een legitieme grondslag kan worden aangevoerd voor

de verwerking van persoonsgegevens. Vaak wordt gedacht aan toestemming: als de –

beoogde – werknemer instemt met de verwerking van zijn of haar persoonsgegevens dan zal

het wel goed zijn. Het kan echter zijn dat de toestemming niet vrijelijk gegeven is. De sollicitant

voelt zich min of meer verplicht in te stemmen omdat hij of zij anders j niet aan de procedure

kan meedoen. Vanwege deze overweging hebben de gezamenlijke toezichthouders op de

privacywetgeving binnen Europa (verenigd in de European Data Protection Board, voorheen

de Artikel 29 Werkgroep) vastgesteld dat toestemming in hiërarchische relaties (zoals die van

een werknemer ten opzichte van zijn/haar – toekomstige – werkgever) niet altijd vrijelijk

gegeven hoeft te zijn en daarmee niet als grondslag kan worden gebruikt.

Voor het verwerken van persoonsgegevens, bijvoorbeeld tijdens een wervings- en

selectieprocedure, biedt de AVG een aantal grondslagen aan. Eén van deze grondslagen

moet kunnen worden ingeroepen, anders mogen de gegevens niet verwerkt worden. Het

afsluiten van een contract – waaronder werving en selectie ook geschaard kan worden – kan

als legitieme grondslag worden aangevoerd. Voor gewone wervings- en selectieprocessen

kan dit voldoende zijn. Echter, als er gevoelige gegevens worden verwerkt dan gelden er

aanvullende regels. In feite hanteert de AVG voor de verwerking van gevoelige gegevens een

“Nee, tenzij …” benadering en bij de verwerking van niet-gevoelige gegevens een “Ja, mits

…” benadering.


Gevoelige gegevens zijn in de context van de AVG gegevens die betrekking hebben op ras

en etnische achtergrond van een persoon, op zijn of haar gezondheidssituatie, op politieke en

religieuze opvattingen, op biometrische gegevens ten behoeve van identificatie, op genetische

gegevens, op seksuele voorkeur en seksuele gedragingen en op het al dan niet lid zijn van

een vakbond. Een foto kan gevoelige gegevens bevatten, bijvoorbeeld de aanwezigheid van

een hoofddoek of keppeltje. Dit geldt ook voor video-opnamen. Een rolstoel vertelt iets over

de gezondheidssituatie van de betreffende persoon. Deze voorbeelden betreffen gegevens

waarvan het onmiddellijk duidelijk is dat deze gevoelig zijn (nogmaals: gevoelig in de zin

waarin de AVG dit omschrijft). Maar zo kunnen er ook profielen geconstrueerd worden die

gezamenlijk iets zeggen over de gezondheidstoestand van een persoon. Bijvoorbeeld

wanneer een game wordt gespeeld waarin wordt onderzocht hoe snel een proefpersoon

reageert op een bepaalde situatie. Dit kan vervolgens gerelateerd worden aan de

stressgevoeligheid van een persoon en deze bevindingen kunnen op hun beurt weer

onderzocht worden op samenhang met andere scores (bijvoorbeeld hoeveel taken in hoeveel

tijd met welke kwaliteit worden volbracht). Dit kunnen gegevens zijn die van belang zijn voor

een aan te bieden betrekking maar tegelijkertijd kunnen ze informatie onthullen over de

mentale en fysieke toestand van een persoon.

De AVG biedt drie gronden die in principe gebruikt kunnen worden voor de verwerking van

gevoelige gegevens tijdens een wervings- en selectieproces. De eerste grondslag is de

uitdrukkelijke toestemming van de betrokkene. Zoals hierboven is aangegeven is deze

grondslag echter niet te gebruiken voor wervings- en selectieprocessen omdat de

toestemming mogelijk niet vrijelijk gegeven is.

Een tweede grondslag is de noodzaak om aan een wettelijke verplichting te voldoen. Zo’n

verplichting kan ook blijken uit een collectieve overeenkomst. Een dergelijke verplichting of

collectieve overeenkomst hebben we voor de Nederlandse situatie niet onmiddellijk kunnen

achterhalen (waarbij aangetekend is dat we dit slechts schetsmatig hebben kunnen

onderzoeken). Ook deze grondslag voldoet dus (zeer waarschijnlijk) niet.

Tot slot mogen gevoelige gegevens verwerkt worden als de betrokkene de informatie

‘kennelijk’ (in het Engels: manifestly, ofwel nadrukkelijk) openbaar heeft gemaakt. Het gaat

dan om informatie die al ergens aanwezig is en vervolgens voor verdere verwerking gebruikt

wordt. Bij een werving en selectieprocedure zal in de regel nieuwe informatie worden

ingewonnen. Bij nieuwe informatie is deze grondslag niet op van toepassing. Het is dus zeer

de vraag of wervings- en selectieprocessen die gebruik maken van gevoelige gegevens zijn

toegestaan. Een concrete analyse van een specifiek wervings- en selectieproces is nodig om

na te gaan of het proces kan voldoen aan de AVG-eisen of niet.

Bovenstaande eisen gelden voor verwerking van persoonsgegevens waarbij ook een

menselijke beoordelaar een rol speelt. Als sprake is van geautomatiseerde besluitvorming

spelen er nog strengere eisen. Geautomatiseerde besluitvorming betekent dat een systeem

geheel zelfstandig (dat wil zeggen zonder enige vorm van menselijke tussenkomst) op basis

van een bepaalde invoer tot een bepaalde uitkomst komt die ook als besluit geldt.

Tegenwoordig wordt in dit verband vaak over algoritmische besluitvorming gesproken: een

computersysteem verwerkt een bepaalde invoer aan de hand van een bepaalde set instructies

(de algoritmes) tot een bepaalde uitvoer. Om in dit geval van geautomatiseerde besluitvorming

te spreken moet het computersysteem duidelijk geheel zelfstandig werken. Met name de

computersystemen die gebaseerd zijn op nieuwe vormen van kunstmatige intelligentie (zoals

de zogenoemde ‘deep learning’ systemen) zullen snel kwalificeren als systemen die leiden tot

volledig geautomatiseerde besluitvorming.


Maar ook eenvoudigere systemen die geheel zelfstandig gegevens verwerken en tot een

besluit komen zonder menselijke tussenkomst voldoen aan het principe van geautomatiseerde

besluitvorming.

De AVG stelt dat systemen die volautomatisch tot een beslissing komen die voor een

betrokkene wettelijke effecten hebben (bijvoorbeeld een volautomatische detectie van een

snelheidsovertreding en het vervolgens volautomatisch toekennen van een boete) of

vergelijkbare andere significante effecten, verboden zijn, tenzij er een uitzonderingsgrond van

toepassing is. Het verbod houdt in dat het systeem zodanig aangepast moet worden dat er

sprake is van een betekenisvolle menselijke ingreep in het besluitvormingsproces.

Eén uitzondering die de AVG toestaat is het afsluiten van een contract. Dit afsluiten kan ruim

worden opgevat. Daar hoort ook het wervings- en selectieproces zelf bij. Wel is het zo dat de

uitzondering op het verbod alleen geldt als sprake is van de verwerking van niet-gevoelige

gegevens (wederom: gevoelig zoals de AVG dat omschrijft; zie ook hiervoor).

Als er ook gevoelige gegevens in beeld zijn (bijvoorbeeld over ras, etnische achtergrond,

gezondheid, seksuele voorkeur) dan is het – op grond van de eerdere analyse – de vraag of

dit kan (met name: kan er dan een grondslag voor gevonden worden?). Voor wervings- en

selectieprocessen betekent dit dat deze niet volautomatisch mogen plaatsvinden als er (ook)

sprake is van de verwerking van gevoelige gegevens: er moet dan een betekenisvolle

menselijke interventie zijn ingebouwd. Als er geen gevoelige gegevens worden verwerkt dan

mag het systeem in principe wel op volledig geautomatiseerde wijze tot een besluit komen. In

dat geval moet er – uiteraard – sprake zijn van een gepaste grondslag (zie hierboven).

Tot slot, de AVG schrijft voor dat er een gegevensbeschermingseffectbeoordeling (meestal

data protection impact assessment of DPIA genoemd) moet worden uitgevoerd als een nieuw

systeem wordt geïntroduceerd dat mogelijk een groot risico op het schaden van de privacy

van personen met zich meebrengt. Om te kunnen beoordelen of een systeem een dergelijk

risico met zich mee kan brengen, is een lijst met criteria opgesteld door de gezamenlijke

Europese privacytoezichthouders. Als een systeem aan twee of meer van de negen

opgestelde criteria voldoet, moet en DPIA worden uitgevoerd. De DPIA brengt de risico’s in

kaart en geeft aan welke maatregelen getroffen kunnen worden om de risico’s dusdanig te

reduceren dat ze aanvaardbaar worden. Bij systemen voor wervings- en selectieprocessen

zal in de regel een DPIA moeten worden uitgevoerd. Ze zullen snel aan twee van de negen

criteria voldoen (waaronder: verwerking van gevoelige gegevens, gestructureerde en

systematische beoordeling van grote groepen personen). Wanneer het niet mogelijk is om

gepaste maatregelen te treffen (bijvoorbeeld omdat het systeem dan niet meer kan werken

zoals beoogd) moet de Autoriteit Persoonsgegevens geraadpleegd worden. Deze zal

vervolgens aangeven of de verwerking wel of niet is toegestaan.

6.1 Concluderend

In algemene zin zal goed nagegaan moeten worden of de beoogde aanpak van de werving

en selectie voldoet aan de eisen en randvoorwaarden die vanuit de AVG/UAVG gesteld

worden. Het verwerken van gevoelige gegevens mag alleen wanneer er sprake is vaneen

uitzonderingsgrond. Het is niet toegestaan om in een volledig geautomatiseerde

besluitvorming gevoelige gegevens (direct of indirect) te verwerken. Worden deze gegevens

in het systeem gebruikt dan zal het besluit alleen na (betekenisvolle) tussenkomst van een

mens genomen mogen worden.


Bij het gebruik van digitale systemen voor werving en selectie, waarin persoonsgegevens

worden gebruikt en waarmee beslissingen worden genomen die een groot effect hebben op

betrokkenen is het verplicht om een DPIA uit te voeren. Met een DPIA worden de risico’s (op

onheuse profilering of onheuse bejegening, bijvoorbeeld discriminatie) op voorhand in kaart

gebracht en worden maatregelen aangegeven die helpen om deze risico’s onder controle te

krijgen. Is dit laatste niet mogelijk, dan is het verplicht de DPIA aan de Autoriteit

Persoonsgegevens worden voor te leggen, de Autoriteit Persoonsgegevens besluit dan of het

systeem ingevoerd mag worden, en zo ja, op welke wijze. Met de komst van de AVG/UAVG

(de Uitvoeringswet AVG; dit is de Nederlandse implementatie van de AVG) zal ook de rol van

de Nederlandse toezichthouder op naleving van de AVG, de Autoriteit Persoonsgegevens, in

het toezicht op de naleving van de AVG/UAVG bij werving en selectie toe gaan nemen. Dit

laat onverlet dat ook alle bestaande wetgeving en toezichthoudende organisaties (zoals het

College voor de Rechten van de Mens) eveneens hun rol zullen blijven spelen en – door de

toegenomen mogelijkheid op directe of indirecte vormen van discriminatie – dit mogelijk ook

in steviger mate zullen doen.

6.2 Wat zijn de juridische randvoorwaarden voor de inzet van digitale instrumenten en


In reguliere wervings- en selectieprocessen spelen persoonsgegevens een rol, en dat geldt

ook voor wervings- en selectieprocessen waarbij gebruik gemaakt wordt van digitale

instrumenten en systemen. De AVG en de UAVG stellen duidelijke voorwaarden als het gaat

om gebruik van persoonsgegevens. Deze gegevens mogen alleen gebruikt worden als daar

een legitieme grondslag voor is. Het doel van werving en selectie, namelijk het sluiten van een

(arbeids)contract is een legitieme grondslag.

Als er echter gevoelige gegevens worden verwerkt dan gelden er aanvullende regels.

Gevoelige gegevens zijn in de context van de AVG gegevens die betrekking hebben op ras

en etnische achtergrond van een persoon, op zijn of haar gezondheidssituatie, op politieke en

religieuze opvattingen, op biometrische gegevens ten behoeve van identificatie, op genetische

gegevens, op seksuele voorkeur en seksuele gedragingen en op het al dan niet lid zijn van

een vakbond. Gevoelige gegevens mogen alleen verwerkt worden als de gegevens op grond

van een wettelijke bepaling verwerkt mogen worden of als ze ‘kennelijk’ openbaar zijn

gemaakt. De expliciete toestemming van de betrokkenen geldt niet als valide grondslag

volgens de Europese privacytoezichthouders omdat te betwijfelen is of de toestemming bij

werving en selectie vrijelijk gegeven is.

Als er bij werving en selectie gebruik wordt gemaakt van ‘geautomatiseerde besluitvorming’

moet ook goed gekeken worden naar de aanvullende eisen. Geautomatiseerde besluitvorming

betekent dat een systeem geheel zelfstandig (dat wil zeggen zonder enige vorm van

menselijke tussenkomst) op basis van een bepaalde invoer tot een bepaalde uitkomst komt

die ook als besluit geldt. In principe is het verwerken van persoonsgegevens in

geautomatiseerde besluitvorming verboden als het besluit significante effecten voor de

betrokkene heeft. Een uitzondering hierop geldt als het systeem wordt ingezet om te komen

tot een (arbeids)contract. Dit is het geval bij wervings- en selectieprocessen. Een

geautomatiseerd besluitvormingssysteem voor werving en selectie, waarin gebruik gemaakt

wordt van ‘gewone’ persoonsgegevens is dus toegestaan. Dat geldt niet voor een

geautomatiseerd besluitvormingssysteem waarin gebruik gemaakt wordt van gevoelige


persoonsgegevens (zie hierboven). In dat geval zal er altijd sprake moeten zijn van een

(betekenisvolle) menselijke tussenkomst. Dit geldt ook in het geval van indirect gebruik van

gevoelige gegevens, bijvoorbeeld wanneer een combinatie van gewone persoonsgegevens

leidt tot gevoelige persoonsgegevens. Het gebruik van algoritmen kan leiden tot een selectie

op gevoelige persoonsgegevens, doordat een combinatie van gewone persoonsgegevens

een proxy kunnen vormen voor dergelijke gegevens.

Bij het gebruik van digitale systemen bij de werving en selectie, waarin persoonsgegevens


betrokkenen is het verplicht om een gegevensbeschermingseffectbeoordeling (meestal data

protection impact assessment ofwel DPIA genoemd) uit te voeren. Met deze risico assessment

worden de risico’s op bijvoorbeeld onheuse profilering of onheuse bejegening (bijvoorbeeld

discriminatie) in kaart gebracht én worden maatregelen geformuleerd waarmee deze risico’s

kunnen worden geminimaliseerd.

Er is weinig jurisprudentie die verduidelijkt hoe de (strenge) eisen van de gelijke behandeling

met betrekking tot indirecte discriminatie zich verhouden tot het gebruik van algoritmen bij de

werving en selectie. Er is sprake van indirecte discriminatie wanneer een (schijnbaar) neutrale

regel in zijn effect een groep in het bijzonder benadeelt. Toegepast op geautomatiseerde

werving en selectie kan er bijvoorbeeld ook sprake zijn van indirect onderscheid op grond van

etniciteit wanneer het kenmerk etniciteit (of kenmerken die heel duidelijk daarmee

samenhangen) niet in de data voorkomen. Er is een grote overlap tussen ‘gevoelige’

persoonsgegevens en discriminatiegronden. Toch zijn niet alle discriminatie gronden

gevoelige persoonsgegevens. Het zou goed zijn om de AVG en de Wet gelijke Behandeling

op dat punt goed met elkaar te vergelijken.

In het Conceptwetsvoorstel toezicht discriminatievrije werving en selectie is in artikel 12c de

vergewisplicht vastgelegd. Partijen die (een deel van) de werving en selectie uitbesteden

moeten zich ervan vergewissen dat de werkwijze van de partij die (een deel van) de werving

en selectie uitvoert, gericht is op het voorkomen van discriminatie. De gelijke

behandelingswetgeving stelt geen directe eisen aan de werkwijze, maar gaat in op het effect.

Het voorkomen van discriminatie vanuit het gelijke behandelingsperspectief vergt bij een deels

geautomatiseerde werving en selectie dus inzicht in de mate waarin de besluitvorming in het

nadeel van bepaalde groepen uitvalt. Een toetsing vooraf van een digitaal systeem met behulp

van een DPIA biedt mogelijkheden tot het identificeren en vervolgens reduceren van het risico

op uitsluiting van groepen. Omdat de wet gelijke behandeling een bredere benadering heeft

van gevoelige persoonsgegevens, is met het uitvoeren van een DPIA niet helemaal aan de

‘vergewisplicht’ voldaan.

Een andere manier om te toetsen of de (geautomatiseerde) besluitvorming in het nadeel van

bepaalde groepen uitvalt is door een input output analyse uit te voeren. Hoe de resultaten

hiervan beoordeeld moeten worden is nog niet duidelijk. Bij welke samenhang van

uitkomstvariabele met een beschermd kenmerk is sprake van indirect onderscheid? Indirect

onderscheid is toegestaan, wanneer er een goede reden voor is (objectieve rechtvaardiging).

Er is sprake van een objectieve rechtvaardiging als het doel van het indirecte onderscheid

legitiem en het middel geschikt en noodzakelijk is. Maar hoe de systematiek van objectieve

rechtvaardiging zich verhoudt tot besluitvorming die deels is geautomatiseerd is nog niet

onduidelijk.


6.2.1 Wettelijk kader

De AVG vereist een legitieme grondslag voor de inzet van systemen voor werving en selectie.

Bij de verwerking van de zogenoemde gevoelige gegevens is inzet van deze systemen slechts

mogelijk als sprake is van een wettelijke bepaling of als de gegevens kennelijk openbaar zijn

gemaakt. De Privacytoezichthouders hebben aangegeven dat toestemming niet gebruikt kan

worden als legitieme grondslag. Dit geldt zowel voor de verwerking van gewone

persoonsgegevens als voor de verwerking van gevoelige gegevens. De AVG legt daarnaast

beperkingen op aan systemen die gebruik maken van automatische besluitvorming op basis

van persoonsgegevens. Gebruikers van recruitment technologieën zullen de risico’s van deze

systemen in kaart moeten brengen en maatregelen moeten treffen om deze – indien nodig –

te verminderen (met behulp van een DPIA).

Omdat de wet gelijke behandeling een bredere benadering hanteert wat betreft gevoelige

gegevens dan de AVG, zal onderzocht moeten worden welke aanvullende activiteiten een

gebruiker van de recruitment technologieën nog zal moeten ondernemen om aan de

vergewisplicht te voldoen.

Het toezicht op mogelijk optredende vormen van discriminatie ligt voor de verwerking van

persoonsgegevens in de context van de AVG bij de Autoriteit Persoonsgegevens (AP). Er zal

behoefte zijn aan afstemming tussen de verschillende toezichthouders waar het gaat om

mogelijke vormen van discriminatie bij werving en selectie.


7 Conclusies en aanbevelingen

De vraag die in dit rapport wordt beantwoord is hoe de inzet van recruitment technologieën tot

risico’s op discriminatie kan leiden. Een daaraan gekoppelde vraag is wat gebruikers van deze

systemen en de overheid kunnen doen om het risico op discriminatie te verkleinen. Een

belangrijke afbakening die we gemaakt hebben bij het beantwoorden van deze vraag is dat

de mogelijkheden die recruitment technologieën bieden om discriminatie te voorkomen buiten

de scope van het onderzoek vallen. Ook tools die specifiek zijn ontworpen om discriminatie te

voorkomen vallen dus buiten het onderzoek.

Wij formuleerden de volgende onderzoeksvragen:

1. Welke recruitment technologieën ondersteunen het wervings- en selectieproces op dit


2. Op welke wijzen worden deze recruitment technologieën ingezet door (intermediaire)




4. Op welke wijzen kunnen recruitment technologieën tot discriminatie leiden bij werving en

selectie?

Hieronder vatten we de inzichten verkregen in deze verkenning samen per onderzoeksvraag.

In de paragraaf ‘aanbevelingen’ beschrijven we wat ons inziens zou moeten gebeuren om het

risico bij het gebruik van recruitment technologieën te verkleinen. Een aantal aanbevelingen

kan direct uitgevoerd worden. Voor andere aanbevelingen is nog aanvullend onderzoek of

ontwikkeling nodig.

Bij deze conclusie is het van belang om de kanttekening te maken dat veel van de

geïnterviewden zich bewust zijn van het belang van diversiteit van de werkvloer en hier actief

aandacht aan besteden. Dat doen zij bijvoorbeeld door in video interviews veel aandacht te

besteden aan het overbrengen van een beeld van de werkvloer dat zoveel mogelijk inclusief

is. In online assessments zeiden geïnterviewden vragen te formuleren op een wijze die zo min

mogelijk uitsluiting tot gevolg heeft (bijv. door te vragen naar waarden). Assessmentbureaus

zijn zich ook bij de ontwikkeling van hun testen bewust dat taalvaardigheid en culturele

verschillen scores kunnen beïnvloeden en hebben hier tests voor ontwikkeld. Voor veel

werkgevers is het bovendien ook van belang om kandidaten uit een internationale pool aan te

trekken. In deze conclusie benadrukken wij de risico’s die kunnen ontstaan bij gebruik van

nieuwe recruitment technologieën desondanks deze aandacht aan inclusiviteit. Dit is mede

van belang om de aandacht op deze risico’s te verscherpen bij de mogelijke groei van het

gebruik buiten de ‘voorlopers’.

7.1 Welke recruitment technologieën ondersteunen het wervings- en selectieproces op dit


Het aanbod van recruitment technologieën groeit; voor elke fase van het recruitmentproces

worden nieuwe instrumenten en tools aangeboden. Voorbeelden zijn video-interviews

(Hirevue) en online platforms die werkzoekenden en werkgevers matchen (MagnetMe).


Op basis van een internetsearch en interviews onderscheiden we op basis van functionaliteit

twee categorieën ‘nieuwe generatie’ recruitment technologieën:

1. Actieve en gerichte benadering van een doelgroep

Hieronder vallen technologieën die worden ingezet om vacatures onder de aandacht van

kandidaten te brengen door gericht adverteren, en kandidaten te vinden door matching en

online netwerken. Uit de literatuurstudie en interviews blijkt dat het gebruik van social media

zoals LinkedIn en Facebook genormaliseerd is. Daarbij blijkt uit de interviews dat voor

sourcing regelmatig externe campagnebedrijven worden ingezet.

2. Beoordelen en selecteren van kandidaten

Hieronder vallen technologieën die kandidaten (veelal online) selecteren of beoordelen, door

het gebruik van matchingsfuncties op cv databanken, door deelname aan video-interviews en

door het afnemen van online assessments. Online video-interviews gecombineerd met

(elementen van) assessments worden door voorlopers veelal ingezet om een preselectie te

maken van kandidaten voor volumebanen (vacatures die veelal in ‘bulk’ worden gevuld, zoals

callcentre medewerkers).

Enkele werkgevers en intermediairs geven aan te werken aan het koppelen van de resultaten

van online assessments en video-interviews aan datasets over de performance van huidige

werknemers. Daarmee zou in de nabije toekomst aan de hand van de eigenschappen van een

kandidaat ‘voorspeld’ kunnen worden of deze in succesvol zal zijn. Echter, de meeste

werkgevers zijn tegelijkertijd terughoudend, omdat deze methoden nog niet gevalideerd zijn

en de beschikbare data nog niet van voldoende kwaliteit zijn. Onduidelijk is hoe dergelijke

modellen werken en er vormen van AI toegepast worden. Geen van de geïnterviewden geeft

aan gebruik te maken van technologieën voor de analyse van micro-expressies of stemklank.

7.2 Op welke wijzen worden deze recruitment technologieën ingezet door (intermediaire)


Het zijn nu nog vooral de grotere bedrijven en organisaties die met name voor het werven en

(pre)selecteren van potentiële kandidaten gebruikmaken van recruitment technologie. De

geïnterviewde recruiters en HR-professionals zijn over het algemeen enthousiast over de

toepassing van recruitment technologieën. Zij zeggen dat het gebruik hen mogelijkheden biedt

om recruitmentprocessen efficiënter in te richten en de time to hire verkorten, het bereik van

potentiële kandidaten te vergroten en de zoektocht naar geschikte kandidaten gerichter te

maken. Zij verwachten dat er in de toekomst meer gebruik zal worden gemaakt van

recruitment technologieën en zien dat als een positieve ontwikkeling, mits technologie ook

‘goed’ wordt ontwikkeld. Over wat ‘goed’ in dit geval is, bestaat nog geen eenduidig beeld.

Recruitment technologie wordt momenteel ingezet voor:

› Social media recruting, gepersonaliseerde online campagnes via Facebook en LinkedIn.

› Matching van vraag en aanbod op basis van online databases met profielinformatie

(veelal cv’s), via specifieke online matchingtools of functionaliteiten van Facebook en

LinkedIn.


› (Pre)selectie van potentiële kandidaten, bijvoorbeeld geautomatiseerde ‘killer questions’

als ‘bent u beschikbaar?’, ‘bent u bereid om in een bepaalde stad of regio te werken?’,

uit te laten voeren door een chatrobot of geautomatiseerd video interview.

Recruitment technologie wordt momenteel zowel gebruikt voor het werven en selecteren van

grotere groepen medewerkers, zoals bijvoorbeeld voor callcenters en personeel in

winkelketens, als voor potentiële kandidaten voor moeilijk opvulbare vacatures. Recruiters

geven aan dat door het gebruik van technologie op efficiëntere wijze een betere selectie van

kandidaten kan worden gemaakt. Dit kan bijvoorbeeld ten bate komen van het terugdringen

van personeelsverloop. Tijdens de internet search kwamen we voorbeelden tegen van

winkelketen Hunkemöller die experimenteert met geavanceerde video sollicitatie, waarbij

algoritmes adviseren wie van de kandidaten bij het bedrijft past of Unilever die gebruikmaakt

van recruitment technologie om de meeste talentvolle trainees te selecteren. Hierbij moet

worden opgemerkt dat recruitment technologieën zelden worden ingezet zonder menselijke

tussenkomt. Hoe geautomatiseerd de besluitvorming is hangt af van de wijze waarop

managers worden betrokken.

Wat betreft de inzet van technologieën om een doelgroep actief te benaderen, is reeds uit

literatuuronderzoek bekend dat de inzet verschilt per opleidingsniveau (Facebook voor lager

opgeleiden, LinkedIn voor hoger opgeleiden). Dit wordt door de interviewresultaten

ondersteund. Voor corporate functies wordt LinkedIn ook ingezet om via netwerken te zoeken.

Geïnterviewde recruiters benadrukken dat recruitment technologie gebruikt wordt ter

ondersteuning van menselijk handelen, zogenoemde ‘decision support’. Echter, door het

gebruik van bijvoorbeeld advertentieprofielen van Facebook, of door matchingsfuncties van

LinkedIn vindt al een hoge mate van voorselectie plaats voordat een mens betrokken raakt.

Technologieën voor het beoordelen en selecteren van kandidaten kunnen ingezet worden om

het traditionele cv een minder prominente rol te laten spelen. Geavanceerde voorbeelden die

we tijdens de internet search zijn tegengekomen AI-toepassingen waarmee wordt beoogd te

voorspellen, op basis van iemands – geschreven of gesproken – taalgebruik, of een kandidaat

bij een baan of een bedrijfscultuur past. Een andere toepassing is de analyse van stemklank

of ‘micro-expressies’. Geen van de geïnterviewden hebben ervaring opgedaan met dergelijke

technologieën. Naast technologieën gericht op de beoordeling van kandidaten op basis van

beeld en taalgebruik, is het gebruik van online assessments, ook in de vorm van games, al

veel gebruikelijker. Deze digitale tools maken gebruik van AI bij de beoordeling van kandidaten

op bijvoorbeeld hun persoonlijkheid, competenties en in sommige gevallen intelligentie.

Geïnterviewden geven aan dat zij veronderstellen dat de online assessments die zij inzetten

geen mogelijk gevoelige informatie verzamelen van kandidaten die kan leiden tot discriminatie.

Daarbij veronderstellen zij dat kandidaten genoeg mogelijkheden hebben om inzicht te krijgen

in het tot stand komen van hun score.

Door het gebruik van recruitment technologieën is het speelveld van partijen direct of indirect

betrokken bij werving en selectie uitgebreid. Voor het gericht adverteren van vacatures naar

specifieke doelgroepen worden soms gespecialiseerde bureaus (reclamebureaus,

communicatiebureaus, campagne bureaus) ingezet. Daarnaast worden de recruitment

technologieën ontwikkeld door (technische) ontwikkelaars, die soms in dienst van een bedrijf

een systeem specifiek voor dat bedrijf ontwikkelen. Analisten en consultants in dienst van

deze ontwikkelaars voeren veelal de data-analyses uit.


Een speciale rol spelen de social media platformen. Deze zijn niet ontwikkeld met het doel

werving en selectie te ondersteunen maar worden er wel voor gebruikt.

De nieuwe partijen op het speelveld hebben vaak een andere achtergrond en expertise dan

de traditionele partijen. Wanneer dit tot communicatie problemen leidt (de sociale

wetenschappers begrijpen de techneuten niet en omgekeerd), kan dit de afstemming over de

eisen die gesteld worden aan de technologie beïnvloeden. Spelers wiens expertise niet ligt op

het terrein van werving en selectie (reclamebureaus, social media platformen) zijn wellicht

minder gefocust op de vorm van discriminatie die bij werving en selectie voorkomt

7.3 Wat zijn de juridische randvoorwaarden voor de inzet van digitale instrumenten en


In reguliere werving en selectie processen spelen persoonsgegevens een rol, en dat geldt ook

voor werving en selectie processen waarbij gebruik gemaakt wordt van digitale instrumenten

en systemen. De AVG en de UAVG stellen duidelijke voorwaarden als het gaat om gebruik

van persoonsgegevens. Deze gegevens mogen alleen gebruikt worden als daar een legitieme

grondslag voor is. Het doel van werving en selectie, namelijk het sluiten van een

(arbeids)contract is een legitieme grondslag.

Als er echter gevoelige gegevens worden verwerkt dan ligt het anders. Gevoelige gegevens

zijn in de context van de AVG gegevens die betrekking hebben op ras en etnische achtergrond

van een persoon, op zijn of haar gezondheidssituatie, op politieke en religieuze opvattingen,

op biometrische gegevens ten behoeve van identificatie, op genetische gegevens, op

seksuele voorkeur en seksuele gedragingen en op het al dan niet lid zijn van een vakbond.

Gebruik van deze gegevens bij werving en selectie is niet toegestaan.

De eisen zijn streng als ‘geautomatiseerde besluitvorming’ wordt ingezet. Geautomatiseerde

besluitvorming betekent dat een systeem geheel zelfstandig (dat wil zeggen zonder enige

vorm van menselijke tussenkomst) op basis van een bepaalde invoer tot een bepaalde

uitkomst komt die ook als besluit geldt. In principe is het gebruik van persoonsgegevens in

geautomatiseerde besluitvorming verboden, tenzij het systeem wordt ingezet om te komen tot

een (arbeids)contract, wat het geval is bij werving en selectie processen. Een geautomatiseerd

besluitvormingssysteem voor werving en selectie, waarin gebruik gemaakt wordt van ‘gewone’

persoonsgegevens is dus toegestaan. Dat geldt niet voor een geautomatiseerd

besluitvormingssysteem waarin gebruik gemaakt wordt van gevoelige persoonsgegevens (zie

hierboven). In dat geval zal bij de besluitvorming altijd pas kunnen plaatsvinden na een

(betekenisvolle) menselijke tussenkomst. Het gaat hierbij ook om het indirect gebruik van

gevoelige gegevens, bijvoorbeeld in een situatie waarin een combinatie van gewone

persoonsgegevens informatie verschaft over gevoelige persoonsgegevens. Selectie op

discriminatoire en/of gevoelige persoonsgegevens omdat een combinatie van gewone

persoonsgegevens hiervoor een proxy vormen is een van de risico’s van het gebruik van

algoritmen.

Bij het gebruik van digitale systemen voor werving en selectie, waarin persoonsgegevens


betrokkenen is het verplicht om een gegevensbeschermingseffectbeoordeling (meestal data

protection impact assessment ofwel DPIA genoemd) in te zetten.


Met deze risico assessment worden de risico’s op bijvoorbeeld onheuse profilering of onheuse

bejegening (bijvoorbeeld discriminatie) in kaart gebracht én worden maatregelen

geformuleerd waarmee deze risico’s kunnen worden geminimaliseerd.

Er is weinig jurisprudentie die verduidelijkt hoe de (strenge) eisen van de gelijke behandeling

met betrekking tot indirecte discriminatie zich verhouden tot het gebruik van algoritmen bij de

werving en selectie. Er is sprake van indirecte discriminatie wanneer een (schijnbaar) neutrale

regel in zijn effect een groep in het bijzonder benadeelt. Toegepast op geautomatiseerde

werving en selectie kan er bijvoorbeeld ook sprake zijn van indirect onderscheid op grond van

etniciteit wanneer het kenmerk etniciteit (of kenmerken die heel duidelijk daarmee

samenhangen) niet in de data voorkomen. Er is een grote overlap tussen ‘gevoelige’

persoonsgegevens en discriminatie gronden. Toch zijn niet alle discriminatie gronden

gevoelige persoonsgegevens. Het zou goed zijn om de AVG en de Wet gelijke Behandeling

op dat punt goed met elkaar te vergelijken.

In het Conceptwetsvoorstel toezicht discriminatievrije werving en selectie is in artikel 12c de

vergewisplicht vastgelegd. Partijen die (een deel van) de werving en selectie uitbesteden

moeten zich ervan vergewissen dat de werkwijze van de partij die (een deel van) de werving

en selectie uitvoert, gericht is op het voorkomen van discriminatie. De gelijke

behandelingswetgeving stelt geen directe eisen aan de werkwijze, maar gaat in op het effect35.

Het voorkomen van discriminatie vanuit het gelijke behandelingsperspectief vergt bij een deels

geautomatiseerde werving en selectie dus inzicht in de mate waarin de besluitvorming in het

nadeel van bepaalde groepen uitvalt. Een toetsing van een digitaal systeem met behulp van

een DPIA en implementatie van de mitigerende maatregelen geeft aan dat een ontwerpen of

gebruiker een werkwijze hanteert die het risico op uitsluiting van groepen op basis van

gevoelige persoonsgegevens voorkomt. Omdat de wet gelijke behandeling naast gevoelige

persoonsgegevens, nog andere gegevens noemt, is met het uitvoeren van een DPIA niet

helemaal aan de ‘vergewisplicht’ voldaan.

Een andere manier om te toetsen of de (geautomatiseerde) besluitvorming in het nadeel van

bepaalde groepen uitvalt is door een input output analyse uit te voeren. Hoe de resultaten

hiervan beoordeeld moeten worden is nog niet duidelijk. Bij welke samenhang van

uitkomstvariabele met een beschermd kenmerk is sprake van indirect onderscheid? Indirect

onderscheid is toegestaan, wanneer er een goede reden voor is (objectieve rechtvaardiging).


legitiem en het middel geschikt en noodzakelijk is. Maar hoe de systematiek van objectieve

rechtvaardiging zich verhoudt tot besluitvorming die deels is geautomatiseerd is nog niet

onduidelijk.

7.4 Op welke wijzen kunnen digitale systemen en instrumenten tot discriminatie leiden bij

werving en selectie?

Het gebruik van recruitment technologieën kan het risico op discriminatie en uitsluiting

versterken. In deze paragraaf bespreken wij eerst een aantal scenario’s die de risico’s

inzichtelijk maken, daarna bespreken wij de factoren die deze risico’s kunnen versterken of

veroorzaken. 35 De vraag is of de gelijke behandelingswetgeving op dit punt aanvullende eisen stelt in vergelijking

AVG, waarbij de eisen samenhangen met het type categorie.


7.4.1 Risico’s op uitsluiting en discriminatie

Onderstaande scenario’s geven weer wat de gevolgen van discriminatie en uitsluiting kunnen

zijn. De lijst is niet uitputtend, maar bedoeld om de mogelijke gevolgen van de inzet recruitment

technologieën inzichtelijk te maken. Zoals besproken in Hoofdstuk 4 hoeft er bij uitsluiting geen

sprake te zijn van discriminatie. Het is echter mogelijk dat kandidaten (direct of indirect) op

basis van discriminatoire kenmerken uitgesloten worden; in dat geval vermelden we dit.

Risico’s bij het gebruik van recruitment technologie voor de actieve en gerichte

benadering van een doelgroep

Mogelijke kandidaten zijn niet op de hoogte en worden niet op de hoogte gesteld van

relevante vacatures omdat iemand:

› digitaal niet in beeld komt als potentiële kandidaat doordat doelgroepen worden

geselecteerd op direct of indirect discriminerende kenmerken;

› digitaal niet in beeld komt als potentiële kandidaat doordat doelgroepen worden

geselecteerd op andersoortige kenmerken, zoals de het type internetpagina dat men

bezoekt;

› geen vaardigheden heeft om zijn of haar digitale zichtbaarheid te vergroten of om digitale

kanalen te benutten;

› niet kan inschatten wat het effect is van digitaal participeren op de arbeidsmarkt en

daarom hier niet bewust mee bezig is.

Personen worden niet geselecteerd als potentiële kandidaat (longlist) omdat:

› ze niet aan de in algoritmen gebruikte directe of indirecte selectie criteria voldoen (hier

kan sprake zijn van het gebruik van (in)direct discriminerende kenmerken, maar in veel

gevallen is dit moeilijk met zekerheid vast te stellen);

› niet de juiste keywords, woordkeuze, of tekst gebruiken, waaruit, door de recruitment

technologie de conclusie wordt getrokken dat ze niet de vereiste competenties of

karaktertrekken bezitten (hier kan sprake zijn van het gebruik van (in)direct

discriminerende kenmerken, maar in veel gevallen is dit moeilijk met zekerheid vast te

stellen);

› bij het opstellen van een persoonlijk profiel kwaliteiten en vaardigheden niet, niet volledig

of niet op een aantrekkelijke manier hebben beschreven.

Risico’s bij het gebruik van recruitment technologie bij het beoordelen en selecteren

van kandidaten.

Een potentiële kandidaat wordt niet geselecteerd voor volgende ronde in het selectieproces

of voor de uiteindelijke baan omdat:

› een kandidaat niet over de juiste apparatuur beschikt of niet de vaardigheden heeft om

de online recruitment technologieën te gebruiken (chatbots, video sollicitaties, online

games);

› bij het gebruik van video sollicitaties: omdat een recruiter veel keuzemogelijkheden heeft

selecteert hij (onbewust) op uiterlijke kenmerken (spraak, mimiek, uiterlijk), die al vroeg

in het proces zichtbaar zijn (hier kan sprake zijn van het gebruik van (in)direct

discriminerende kenmerken);


› het matchingssysteem een negatief advies geeft op basis van (in)direct selecterende

kenmerken (proxies) of op basis van anderszins uitsluitende kenmerken die er voor de

functie niet toe doen;

› het matchingssysteem geen gebruik maakt van uitsluitende kenmerken, maar door

andere oorzaken (bijv. datakwaliteit) scores geeft die er voor de functie weinig toe doen;

› omdat op basis van de resultaten van de online- assessment test, het video interview of

de analyses van online gedrag geconcludeerd wordt dat de kandidaat niet over de

benodigde competenties en karaktereigenschappen beschikt.

7.4.2 Risicofactoren

Op basis van de literatuurstudie, internetscan, discussietafel en interviews identificeren wij de

onderstaande risicofactoren. Deze factoren zijn van belang om het risico op discriminatie te

verminderen, maar doen tegelijkertijd niet af aan de bestaande aandacht aan inclusiviteit

onder de geïnterviewde werkgevers en assessmentbureaus.

Bij de beschrijving van deze factoren erkennen wij dat menselijk gedrag een belangrijke rol

blijft spelen. Desalniettemin is het van belang deze risicofactoren te bespreken. Daarbij

kunnen recruitment technologieën nieuwe redenen voor uitsluiting introduceren en bestaande

vormen van uitsluiting versterken. Een andere relevante toevoeging is dat ook zonder het

gebruik van recruitment technologieën er bijvoorbeeld een gebrek aan transparantie kan

bestaan bij de keuze van een kandidaat. Bij de beschrijving van onderstaande factoren gaan

wij er daarom niet vanuit dat er zonder het gebruik van recruitment technologieën geen

problemen of verbeterpunten bestaan.

Eén van de factoren (factor 6) heeft met name betrekking op het gebruik van algoritmen voor

het voorspellen van het functioneren van een kandidaat of het maken van matches. Hoewel

er veel gebruikgemaakt wordt van matchingsfuncties (bijv. LinkedIn), lijkt het gebruik van

voorspellende algoritmes bij online assessments of bijvoorbeeld voor de analyse van

gelaatsuitdrukkingen vandaag de dag niet grootschalig aan de orde. Echter, deze kunnen in

de nabije toekomst of bij innovatieve werkgevers (‘voorlopers’) wel van belang zijn.

1. Gebrek aan kennis over technologie en bewustzijn van risico’s bij gebruik van technologieën

› Onder de geïnterviewden waren weinig recruiters zich nog weinig bewust van de werking

en risico’s van data analytics en voorspellende systemen; hetzelfde geldt voor HR

vakliteratuur en websites van ontwikkelaars. Er lijkt in het veld een weinig kritische

houding te bestaan ten aanzien van de systemen tijdens het gebruik.

› De geïnterviewde recruiters waren zich over het algemeen weinig bewust van de

mogelijke discriminerende effecten door het gebruik van social media. Hoewel wordt

erkend dat mensen die zich niet op social media profileren minder kans maken om

uitgenodigd dan wel op de hoogte gesteld te worden, of dat een afwijkend profiel of juist

herkenbaar profiel een effect kan hebben op de kans dat je uitgenodigd wordt, gaven

geïnterviewden toch aan dat deze gegevens ‘openbaar zijn, dus het mag’ en ‘dat is toch

normaal dat je kijkt wie iemand is’.


› Er bestond onder geïnterviewde recruiters, in de vakliteratuur en op de websites van

ontwikkelaars veel vertrouwen in het ontwerp en toepassing van intelligente systemen.

Respondenten geven aan dat intelligente systemen objectiever kunnen beoordelen en

selecteren dan mensen (mist de gebruikte modellen ‘goed’ zijn). Er is sprake van een

‘automation bias’: het idee dat de inzet van intelligente systemen per definitie tot betere

inzichten leidt. De resultaten van deze systemen worden daarom soms niet (voldoende)

ter discussie gesteld.

2. Gebruik van technologieën ondanks gebrek aan validatie

› Op dit moment leren werkgevers, ontwikkelaar en intermediairs nog van de data die zij

verzamelen over het gedrag van sollicitanten. Geïnterviewden gaven te kennen dat zij

nog niet weten wat de waarde van de verzamelde data precies is. Tegelijkertijd passen

enkele geïnterviewde werkgevers en intermediairs de technologieën al toe en voorspellen

zij dat datagedreven werken de toekomst is.

3. Gebrek aan overzicht over het proces door werkgevers

› Nieuwe spelers in het recruitmentproces nemen taken van werkgevers over.

Campagnebureaus of communicatieafdelingen werden door enkele van de

geïnterviewden ingeschakeld voor employer branding en het adverteren van vacatures;

in de vakliteratuur lijkt dit een trend te zijn. Werkgevers hebben hierdoor waarschijnlijk

niet altijd zicht op de filters die deze bureaus gebruiken (bijvoorbeeld bij gebruik van

Facebook). Hoewel deze bureaus, net als ontwikkelaars en programmeurs van

recruitment technologieën goede intenties hebben kan het voor werkgevers moeilijk zijn

om te controleren of de technologieën wel zo werken als zij zouden willen.

4. Gebrek aan transparantie voor de kandidaat

› Het recruitmentproces is ook zonder gebruik van de besproken recruitment technologieën

vaak niet volledig transparant (en dit is naar alle waarschijnlijkheid niet altijd haalbaar of

wenslijk). De ‘nieuwe generatie’ recruitment technologieën kan echter nieuwe

uitdagingen opleveren als het gaat om transparantie van het proces. Zo is het vaak niet

duidelijk welke online gegevens gebruikt worden voor de zoektocht naar kandidaten die

uitgenodigd worden om te solliciteren. Het is niet duidelijk welke conclusies op basis van

de online gegevens worden getrokken en het is al helemaal niet mogelijk deze conclusies

te weerleggen. Het kan bovendien lastig zijn een ‘digitaal imago’ te veranderen.

Ook het proces van selectie in latere fasen van het recruitment proces is voor kandidaten

vaak niet transparant. Ze kunnen de besluitvorming m.b.v. online assessments beperkt

controleren en hebben veelal geen toegang tot achterliggende modellen. Deze

onduidelijkheid maakt dat discriminatie en biases moeilijk aan te tonen zijn.

Kandidaten hebben ook weinig invloed op de toepassing van recruitment technologieën,

en zullen zich aan moeten passen aan de keuze van werkgevers. Dat kan voor sommige

kandidaten nadelig zijn; niet iedereen is even digitaal vaardig. Daarbij verschillen de

posities van kandidaten in digitale netwerken aanzienlijk.

Deels zijn dit ongelijkheden en risico’s uit het ‘reguliere’ sollicitatieproces die zich ook

online manifesteren.


5. Kenmerken van de systemen die het risico op discriminatie kunnen vergroten:

informatie aanbod

In veel psychologisch onderzoek is aangetoond dat onbewuste impulsen een grotere rol

gaan spelen bij het maken van keuzes als de keuzemogelijkheid groter is (zie bijv.

Tiemeijer, 2011). Vooroordelen kunnen onbewuste impulsen versterken. De keuze

mogelijkheden zijn als gevolg van recruitment technologieën toegenomen, denk aan

platformen zoals LinkedIn die een grote keuzen aan profielen bieden of vacaturesites met

cv databanken. Als de selectie van de cv’s niet door een algoritme, maar (deels) door een

mens wordt gemaakt, dan kan dit mechanisme een rol spelen.

6. Kenmerken van de systemen die het risico op discriminatie kunnen vergroten:

bias in toepassing van algoritmen

› In hoofdstuk 4 worden vijf redenen genoemd voor het niet optimaal werken van

algoritmes. Deze redenen kunnen allemaal van toepassing zijn op de gebruikte

recruitment technologieën:

i. Definitie van ‘goede’ performance of geschiktheid. Voor het ontwikkelen van

algoritmen wordt vaak gebruik gemaakt van eigenschappen van ‘succesvolle

kandidaten of werknemers’. In de veronderstelling over welke kandidaten of

werknemers succesvol zijn kan een bias zitten (zijn de medewerkers die bestempeld

worden als succesvol wel echt zo succesvol? En zijn zij de enige?). Ook in de

operationalisering van de uitkomstmaat kan een bias zitten (op basis van welke

variabelen meet je succes? Meet je met performance reviews wel echt succes?).

ii. Verzamelen en verwerken van trainingsdata. Een selectie of het vaststellen van

criteria van succesvolle medewerkers kan worden gemaakt op basis van een

algoritme dat getraind is met een bestaande dataset die een bias bevat.

iii. Keuze van variabelen. Er worden voor de selectie variabelen gebruikt die in de

dataset aanwezig zijn en makkelijk te meten zijn. Dat kan er toe leiden dat ‘een

afgeronde HBO opleiding’ wel wordt meegenomen, maar ‘HBO werk en denkniveau’

niet, waardoor mensen wellicht onterecht buiten de selectie vallen.

iv. Proxies. Schijnbaar objectieve variabelen kunnen een proxy zijn voor variabelen

waarop niet geselecteerd mag worden. Omdat algoritmes al snel ingewikkeld worden

zijn deze proxies niet meteen zichtbaar.

v. Maskeren: opzettelijk gebruik van de mogelijkheid op bias. Bias kan ook

opzettelijk in een algoritme worden ingebracht, bijvoorbeeld door bepaalde

zoektermen expliciet op te nemen. Omdat de gebruikte algoritmes complex kunnen

zijn, is niet meteen zichtbaar voor gebruikers. Het is nog minder goed zichtbaar voor

de potentiële sollicitant.

Daarnaast is kunnen algoritmen recruitmentprocessen ondoorzichtelijker maken doordat

moeilijk is na te gaan hoe de keuzes van recruiters een matchingsalgoritme beïnvloeden.


7.5 Aanbevelingen

7.5.1 Bewustwording

De eerste stap om risico’s op discriminatie bij het gebruik van recruitment technologieën te

beperken is het vergroten van het bewustzijn en kennis van de risicofactoren. Hiertoe kan de

inspectie ervoor kiezen een checklist en ander materiaal te ontwikkelen waarmee werkgevers

en intermediairs hun eigen praktijken kunnen bevragen en bewuste keuzes kunnen maken.

Voor het opstellen van een dergelijke checklist vormt dit onderzoek een eerste aanzet, zo kan

gedacht worden aan het bespreken van onderwerpen zoals de keuze van variabelen in het

ontwikkelen van algoritmen voor matching en selectie, maar ook of het haalbaar zou zijn om

kandidaten meer inzicht te geven in de werking van bijvoorbeeld online assessments. Ook zou

er aandacht besteed kunnen worden aan het gericht adverteren van vacature op basis van

kenmerken zoals regio.

7.5.2 Validatie en controle

Het verdient de aanbeveling werkgevers en intermediairs te stimuleren alleen gevalideerde

recruitment technologieën voor selectie en beoordeling in te zetten. Hier zou de Inspectie SZW

bedrijven ook toe kunnen aansporen en controleren. Een toekomstige stap voor de Inspectie

SZW (eventueel in samenwerking met andere kennispartners) kan ook zijn het ontwikkelen en

aanbieden van methodes voor de controle van de effecten van recruitment technologieën aan

werkgevers en intermediairs. Hierbij kan gedacht worden aan input-output analyses.

Daarnaast is het zinvol een kader te ontwikkelen waarmee recruitment technologieën

gecontroleerd kunnen worden op Eerlijkheid, Accuratesse, Vertrouwelijkheid en Transparantie

(in het Engels: FACT: Fair, Accurate, Confidential and Transparant).

7.5.3 Wettelijk kader

De AVG legt beperkingen op aan automatische besluitvorming op basis van beschermde

persoonsgegevens, zowel aan het direct als indirect gebruik van beschermde gegevens. Deze

beperkingen gelden ook voor geautomatiseerde besluitvorming in kader van werving en

selectie. Gebruikers van recruitment technologieën zullen de risico’s op ongeoorloofd gebruik

van beschermde persoonsgegevens moeten controleren en verminderen (met behulp van een

DPIA).

Omdat de wet gelijke behandeling verder gaat dan de AVG, zal onderzocht moeten worden

welke aanvullende activiteiten een gebruiker van de recruitment technologieën nog zal moeten

ondernemen om aan de vergewisplicht te voldoen.

7.5.4 Vervolgonderzoek

Meer inzicht in het gebruik van recruitment technologieën door werkgevers, intermediairs, en

eventueel onder kandidaten maakt de omvang van het risico van digitale discriminatie

duidelijk.

Het beschrijven van duidelijke voorbeelden van effecten van ‘digitale discriminatie’ in de

Nederlandse situatie kunnen meer inzicht geven in criteria die een rol spelen bij werving en

selectie en daarmee de bewustwording versterken. Ook zou bestaand materiaal in overleg

met experts geïnventariseerd moeten worden.


Inmiddels is een aantal instrumenten ontwikkeld waarmee technologieën die gebruikmaken

van data analytics en artificiële intelligentie kunnen worden geëvalueerd, bijvoorbeeld op

gebruik van privacy gevoelige data of de impact die het systeem heeft.

Voorbeelden hiervan zijn een Data Protection Impact Assessment (DPIA) en een Artificial

Intelligence Impact Assessment.36 Een ander instrument is de ‘Ethische Data Assistent’, een

toolkit voor de praktijk om ethische kwesties in kaart te brengen en transparant te maken voor

stakeholders.37 Onderzocht zou kunnen worden of deze instrumenten geschikt gemaakt of

uitgebreid kunnen worden voor de evaluatie van het risico op discriminatie van recruitment

technologieën.

Zover bekend bestaat er geen onderzoek of jurisprudentie waaruit blijkt hoe de verplichtingen

om discriminatie bij (gedeeltelijk) geautomatiseerde besluitvorming te voorkomen vanuit de

verschillende nationale wettelijke kaders zich tot elkaar verhouden. Het is mogelijk dat de

gelijke behandelingswetgeving (zeker met het oog op indirecte discriminatie) aanvullende

eisen stelt ten opzichte van de vereisten vanuit de AVG. Een dergelijk onderzoek of rechterlijke

uitspraak zou antwoord moeten geven op de vraag of aan de vergewisplicht vanuit art 12c is

voldaan, wanneer een werkgever aan de verplichtingen vanuit de AVG voldoet. In het geval

dat dat niet afdoende blijkt, is verder inzicht nodig hoe ver aanvullende verplichtingen dan

strekken. En wiens verantwoordelijkheid het is om aan die verplichting te voldoen (de

gebruiker van bepaalde tools, of ook de ontwerper). Om toezicht te houden op deze eventuele

aanvullende verplichtingen is het ook nodig te onderzoeken welke vorm van toezicht haalbaar

is. Is het mogelijk om bij inspecties te controleren of er daadwerkelijk sprake is van

discriminatie, of is het zinvoller om te controleren of een werkgever zich voldoende heeft

ingespannen om het risico op discriminatie te minimaliseren. Bij het laatste valt bijvoorbeeld

te denken dat de inspectie controleert hoe de kwaliteit van de onderliggende data is

onderbouwd, of er een input output analyse heeft plaatsgevonden op verschillende

beschermde kenmerken en of er bij signalen van mogelijke discriminatie actie is ondernomen.

7.6 Tot slot

In dit onderzoek hebben wij ons gericht op de risico’s op discriminatie van het gebruik van

recruitment technologie. De vraag hoe deze technologie gebruikt kan worden om discriminatie

tegen te gaan of diversiteit te vergroten is niet aan de orde gekomen. Dit is echter wel een

hele interessante vraag. Er zijn inmiddels al veel voorbeelden van kansen van het gebruik van

digitale technologie voor het vergroten van diversiteit en inclusie.

Nieuwe spelers hebben de werving en selectie markt betreden. Een aantal van deze spelers

zijn minder goed bereikbaar of controleerbaar. Dit geldt vooral voor internationale platforms

zoals Facebook, LinkedIn en Google. Deze platforms spelen een belangrijke rol en bevatten

ook kenmerken en mogelijkheden die het risico op discriminatie kunnen versterken.

Nagedacht zal moeten worden over een manier om de inzet van deze platforms te controleren.

36 Bruikbaar voor zover er daadwerkelijk sprake is van de inzet van AI. De Artificial Intelligence

Impact Assessment is een nieuw instrument, aangeboden door ECP Platform voor de Informatiesamenleving, zie: https://www.innovatiefinwerk.nl/sites/innovatiefinwerk.nl/files/field/bijlage/ai_-_artificial-intelligence-impact-assesment.pdf.

37 Aangeboden door de Utrecht Data School, zie: https://dataschool.nl/deda/.


Tot slot: in dit rapport hebben wij ons gericht op de risico’s op discriminatie. De focus was te

onderzoeken hoe bedrijven zich, ook met het gebruik van recruitment technologie, aan de wet

gelijke behandeling kunnen houden en hoe gecontroleerd kan worden of ze dat doen. Maar

naast het feit dat het gebruik van deze technologie het risico kan vergroten dat bedrijven zich

niet aan de wet houden, verandert het gebruik van technologie ook de relatie en verhouding

tussen potentiële kandidaat en werkgever. De transparantie van het proces verandert. De

wijze waarop kandidaten met bedrijven kunnen interacteren verandert, de ruimte die er is voor

input in het sollicitatieproces verandert. Over deze veranderingen is niet alleen een juridische-

maar ook een maatschappelijke discussie wenselijk.


Referenties

Ajunwa, I., & et al. (2016). Hiring by Algorithm: Predicting and Preventing Disparate Impact.

SSRN.

Ajunwa, I. (2016). The Paradox of Automation as Anti-Bias Intervention (SSRN Scholarly

Paper No. ID 2746078). Retrieved from Social Science Research Network website:

https://papers.ssrn.com/abstract=2746078

Ajunwa, I., & Greene, D. (2018). Platformen at Work: Automated Hiring Platformen and Other

New Intermediaries in the Organization of Work (SSRN Scholarly Paper No. ID

3248675). Retrieved from Social Science Research Network website:


Amnesty International (2019). Surveillance Giants: How the Business Model of Google and

Facebook Threatens Human Rights (No. POL 30/1404/2019). Retrieved from

Amnesty International website:

https://www.amnesty.org/en/documents/document/?indexNumber=pol30%2f1404%2

f2019&language=en

Angwin, J., & Scheiber, N. (2017, December 20). Dozens of Companies Are Using Facebook

to Exclude Older Workers From Job Ads [Text/html]. Retrieved November 26, 2019,

from ProPublica website: https://www.propublica.org/article/facebook-ads-age-

discrimination-targeting

Angwin, J., & Parris, T. (2016). Facebook Lets Advertisers Exclude Users by Race. Retrieved

November 11, 2019, from ProPublica website:

https://www.propublica.org/article/facebook-lets-advertisers-exclude-users-by-race

Barocas, S., & Selbst, A. D. (2016). Big Data’s Disparate Impact. California Law Review, 104,

671.

Berkelaar, B. L., Scacco, J. M., & Birdsell, J. L. (2015). The Worker as Politician: How Online

Information and Electoral Heuristics Shape Personnel Selection and Careers. New

Media & Society, 17(8), 1377–1396. https://doi.org/10.1177/1461444814525739

Blommaert, L. (2013, November 9). Discriminatie van allochtone werkzoekenden op online

CV-databanken. Retrieved November 27, 2019, from Versvak.nl website:

http://www.versvak.nl/arbeidsmarkt-educatie/discriminatie-van-allochtone-

werkzoekenden-op-online-cv-databanken/

Bogen, M., & Rieke, A. (2018). Help Wanted: An Examination of Hiring Algorithms, Equity, and

Bias. Retrieved from Upturn website: https://www.upturn.org/reports/2018/hiring-

algorithms



https://www.amnesty.org/en/documents/document/?indexNumber=pol30%2f1404%2f2019&language=en

https://www.amnesty.org/en/documents/document/?indexNumber=pol30%2f1404%2f2019&language=en

https://www.propublica.org/article/facebook-ads-age-discrimination-targeting

https://www.propublica.org/article/facebook-ads-age-discrimination-targeting

https://www.propublica.org/article/facebook-lets-advertisers-exclude-users-by-race

https://doi.org/10.1177/1461444814525739

http://www.versvak.nl/arbeidsmarkt-educatie/discriminatie-van-allochtone-werkzoekenden-op-online-cv-databanken/

http://www.versvak.nl/arbeidsmarkt-educatie/discriminatie-van-allochtone-werkzoekenden-op-online-cv-databanken/

https://www.upturn.org/reports/2018/hiring-algorithms

https://www.upturn.org/reports/2018/hiring-algorithms


Caers, R., & Castelyns, V. (2011). LinkedIn and Facebook in Belgium: The Influences and

Biases of Social Network Sites in Recruitment and Selection Procedures. Social

Science Computer Review, 29(4), 437–448.

https://doi.org/10.1177/0894439310386567

Calders, T., & Žliobaitė, I. (2013). Why Unbiased Computational Processes Can Lead to

Discriminative Decision Procedures. In B. Custers, T. Calders, B. Schermer, & T.

Zarsky (Eds.), Discrimination and Privacy in the Information Society: Data Mining and

Profiling in Large Databases (pp. 43–57). https://doi.org/10.1007/978-3-642-30487-

3_3

Chen, L., Hannák, A., Ma, R., & Wilson, C. (2018). Investigating the Impact of Gender on Rank

in Resume Search Engines. ACM CHI Conference on Human Factors in Computing

Systems. Retrieved from https://dl.acm.org/purchase.cfm?id=3174225

College voor de Rechten van de Mens. (2019). Discriminatie Uitgelegd. Retrieved December

18, 2019, from Mensenrehcten.nl website: https://mensenrechten.nl/nl/discriminatie-

uitgelegd

Crystal. (2019). Crystal Chrome Extension Demo. Retrieved November 11, 2019, from

Crystalknows.com website: https://www.crystalknows.com/video/chrome-extension

Datta, A., Tschantz, M. C., & Datta, A. (2015). Automated Experiments on Ad Privacy Settings:

A Tale of Opacity, Choice, and Discrimination. ArXiv:1408.6491 [Cs]. Retrieved from

http://arxiv.org/abs/1408.6491

Dewey, C. (2016, August 19). 98 Personal Data Points That Facebook Uses to Target Ads to

You. Washington Post. Retrieved from https://www.washingtonpost.com/news/the-

intersect/wp/2016/08/19/98-personal-data-points-that-facebook-uses-to-target-ads-

to-you/

El Ouirdi, M., Pais, I., Segers, J., & El Ouirdi, A. (2016). The relationship between recruiter

characteristics and applicant assessment on social media. Computers in Human

Behavior, 62, 415–422. https://doi.org/10.1016/j.chb.2016.04.012

Fokkens, A., Beukeboom, C. J., & Maks, I. (2018). Leeftijdsdiscriminatie in Vacatureteksten.

Een Geautomatiseerde Inhoudsanalyse Naar Verboden Leeftijd-Gerelateerd

Taalgebruik in Vacatureteksten. Retrieved from VU Vrije Universiteit Amsterdam

website: https://publicaties.mensenrechten.nl/file/bd556622-9cad-4416-acd9-

58258a520ab4.pdf

FRA. (2018). #bigdata: Discrimination in Data-Supported Decision Making. Retrieved from

FRA website: https://fra.europa.eu/sites/default/files/fra_uploads/fra-2018-focus-big-

data_en.pdf

FRA. (2019). Data Quality and Artificial Intelligence – Mitigating Bias and Error to Protect

Fundamental Rights. Retrieved from FRA website:

https://fra.europa.eu/sites/default/files/fra_uploads/fra-2019-data-quality-and-

ai_en.pdf

https://doi.org/10.1177/0894439310386567

https://doi.org/10.1007/978-3-642-30487-3_3

https://doi.org/10.1007/978-3-642-30487-3_3

https://dl.acm.org/purchase.cfm?id=3174225

https://mensenrechten.nl/nl/discriminatie-uitgelegd

https://mensenrechten.nl/nl/discriminatie-uitgelegd

https://www.crystalknows.com/video/chrome-extension


https://www.washingtonpost.com/news/the-intersect/wp/2016/08/19/98-personal-data-points-that-facebook-uses-to-target-ads-to-you/



https://doi.org/10.1016/j.chb.2016.04.012

https://publicaties.mensenrechten.nl/file/bd556622-9cad-4416-acd9-58258a520ab4.pdf

https://publicaties.mensenrechten.nl/file/bd556622-9cad-4416-acd9-58258a520ab4.pdf

https://fra.europa.eu/sites/default/files/fra_uploads/fra-2018-focus-big-data_en.pdf

https://fra.europa.eu/sites/default/files/fra_uploads/fra-2018-focus-big-data_en.pdf

https://fra.europa.eu/sites/default/files/fra_uploads/fra-2019-data-quality-and-ai_en.pdf

https://fra.europa.eu/sites/default/files/fra_uploads/fra-2019-data-quality-and-ai_en.pdf


Gangadharan, S. P., & Niklas, J. (2019). Decentering Technology in Discourse on

Discrimination. Information, Communication & Society, 22(7), 882–899.

https://doi.org/10.1080/1369118X.2019.1593484

Grgić-Hlača, N., Zafar, M. B., Gummadi, K. P., & Weller, A. (2018). Beyond Distributive

Fairness in Algorithmic Decision Making: Feature Selection for Procedurally Fair

Learning. Thirty-Second AAAI Conference on Artificial Intelligence. Presented at the

Thirty-Second AAAI Conference on Artificial Intelligence. Retrieved from

https://www.aaai.org/ocs/index.php/AAAI/AAAI18/paper/view/16523

Hamer, J., & Kool, L. (2019). Beschaafde Bits. Zeventien experts over fatsoenlijk digitaliseren.

Retrieved from Rathenau Instituut website: https://www.rathenau.nl/nl/digitale-

samenleving/beschaafde-bits

Hiemstra, A. M. F., & Nevels, I. (2018, December 3). Algoritmes Leiden Niet Automatisch tot

Eerlijkere Selectie. Retrieved May 15, 2019, from Sociale Vraagstukken website:

https://www.socialevraagstukken.nl/algoritmes-leiden-niet-automatisch-tot-eerlijkere-

selectie/

Hoffmann, A. L. (2019). Where fairness fails: Data, algorithms, and the limits of

antidiscrimination discourse. Information, Communication & Society, 22(7), 900–

915. https://doi.org/10.1080/1369118X.2019.1573912

Independent High-Level Expert Group on Artificial Intelligence. (2019). A Definition of AI: Main

Capabilities and Disciplines Definition Developed for the Purpose of the AI

HLEG’s Deliverables. Retrieved from European Commission website:

https://ec.europa.eu/digital-single-market/en/news/definition-artificial-

intelligence-main-capabilities-and-scientific-disciplines

Jeske, D., & Shultz, K. S. (2016). Using social media content for screening in recruitment and

selection: Pros and cons. Work, Employment and Society, 30(3), 535–546.

https://doi.org/10.1177/0950017015613746

Kleinberg, J., Ludwig, J., Mullainathan, S., & Sunstein, C. R. (2018). Discrimination in the Age

of Algorithms. Journal of Legal Analysis, 10, 113–174.

https://doi.org/10.1093/jla/laz001

Kluemper, D. H., Mitra, A., & Wang, S. (2016). Social Media use in HRM. In Research in

Personnel and Human Resources Management: Vol. 34. Research in Personnel and

Human Resources Management (pp. 153–207). https://doi.org/10.1108/S0742-

730120160000034011

Koolhof, K. (2018, October 10). Amazon draait sollicitatierobot de nek om na discrimineren

vrouwen. Algemeen Dagblad. Retrieved from https://www.ad.nl/tech/amazon-draait-

sollicitatierobot-de-nek-om-na-discrimineren-vrouwen~a4eafef8/

https://doi.org/10.1080/1369118X.2019.1593484

https://www.aaai.org/ocs/index.php/AAAI/AAAI18/paper/view/16523

https://www.rathenau.nl/nl/digitale-samenleving/beschaafde-bits

https://www.rathenau.nl/nl/digitale-samenleving/beschaafde-bits

https://www.socialevraagstukken.nl/algoritmes-leiden-niet-automatisch-tot-eerlijkere-selectie/

https://www.socialevraagstukken.nl/algoritmes-leiden-niet-automatisch-tot-eerlijkere-selectie/

https://doi.org/10.1080/1369118X.2019.1573912

https://ec.europa.eu/digital-single-market/en/news/definition-artificial-intelligence-main-capabilities-and-scientific-disciplines

https://ec.europa.eu/digital-single-market/en/news/definition-artificial-intelligence-main-capabilities-and-scientific-disciplines

https://doi.org/10.1177/0950017015613746

https://doi.org/10.1093/jla/laz001

https://doi.org/10.1108/S0742-730120160000034011

https://doi.org/10.1108/S0742-730120160000034011

https://www.ad.nl/tech/amazon-draait-sollicitatierobot-de-nek-om-na-discrimineren-vrouwen~a4eafef8/

https://www.ad.nl/tech/amazon-draait-sollicitatierobot-de-nek-om-na-discrimineren-vrouwen~a4eafef8/


Larson, J., & Angwin, J. (2016). How We Analyzed the COMPAS Recidivism Algorithm

[Text/html]. Retrieved July 3, 2019, from ProPublica website:

https://www.propublica.org/article/how-we-analyzed-the-compas-recidivism-

algorithm

Levin, S. (2019, March 19). Facebook Cracks down on Discriminatory Ads After Years of

Backlash. The Guardian. Retrieved from

https://www.theguardian.com/technology/2019/mar/19/facebook-advertising-

discrimination-lawsuit-aclu-race-gender

LTP. (2019). AI-Robot Can Assist with Unbiased Recruitment. Retrieved November 15, 2019,

from https://ltpscience.nl/video-ai-robot-can-assist-with-unbiased-recruitment/

NsvP. (2019). Op Drie Fronten Inclusiever Matchen. Retrieved November 26, 2019, from

Innovatief in Werk website: https://www.innovatiefinwerk.nl/toekomst-van-werk-

omkering-skills-innovatie-diversiteit/2019/10/op-drie-fronten-inclusiever-matchen

Oppen, F., & Mesters, H. (2017). HR Analytics: Datagedreven Belsuitvorming in HR. ABN

AMRO.

Panteia. (2015). Discriminatie in de wervings- en selectiefase. Resultaten van ‘virtuele’

praktijktests. Retrieved from Panteia website:

https://www.panteia.nl/uploads/sites/2/2015/09/Discriminatie-in-de-wervings-en-

selectiefase-1.pdf

Piek, P., Putnik, K., Schoone, M., & Wiezer, N. (2018). Discriminatie bij werving en selectie:

huidige gang van zaken en trends (nr. TNO 2018 R11086). Geraadpleegd van

http://publications.tno.nl/publication/34627249/puJbur/TNO-2018-R11086.pdf

Pymetrics. (2019). Pymetrics. Matching Talent to Opportunity. Retrieved November 11, 2019,

from Pymetrics.com website: https://www.pymetrics.com/

Raghavan, M., Barocas, S., Kleinberg, J., & Levy, K. (2019). Mitigating Bias in Algorithmic

Hiring: Evaluating Claims and Practices. ArXiv:1906.09208 [Cs]. Retrieved from


Redactie. (2016, November 12). Facebook past advertenties op basis van ras aan na kritiek.

de Volkskrant. Retrieved from https://www.volkskrant.nl/gs-bad95a22

Roth, P. L., Bobko, P., Van Iddekinge, C. H., & Thatcher, J. B. (2016). Social Media in

Employee-Selection-Related Decisions: A Research Agenda for Uncharted Territory.

Journal of Management, 42(1), 269–298. https://doi.org/10.1177/0149206313503018

Ruckenstein, M. (2019, November 25). Controversial Service That Ranked Job Seekers

Based on Personal Emails Folds Following Algorithmwatch Investigation

[AlgorithmWatch.nl]. Retrieved December 6, 2019, from AlgorithmWatch website:

https://algorithmwatch.org/en/controversial-service-that-ranked-job-seekers-based-

on-personal-emails-folds-following-algorithmwatch-investigation/

https://www.propublica.org/article/how-we-analyzed-the-compas-recidivism-algorithm

https://www.propublica.org/article/how-we-analyzed-the-compas-recidivism-algorithm

https://www.theguardian.com/technology/2019/mar/19/facebook-advertising-discrimination-lawsuit-aclu-race-gender

https://www.theguardian.com/technology/2019/mar/19/facebook-advertising-discrimination-lawsuit-aclu-race-gender

https://ltpscience.nl/video-ai-robot-can-assist-with-unbiased-recruitment/

https://www.innovatiefinwerk.nl/toekomst-van-werk-omkering-skills-innovatie-diversiteit/2019/10/op-drie-fronten-inclusiever-matchen

https://www.innovatiefinwerk.nl/toekomst-van-werk-omkering-skills-innovatie-diversiteit/2019/10/op-drie-fronten-inclusiever-matchen

https://www.panteia.nl/uploads/sites/2/2015/09/Discriminatie-in-de-wervings-en-selectiefase-1.pdf

https://www.panteia.nl/uploads/sites/2/2015/09/Discriminatie-in-de-wervings-en-selectiefase-1.pdf

https://www.pymetrics.com/


https://www.volkskrant.nl/gs-bad95a22

https://doi.org/10.1177/0149206313503018

https://algorithmwatch.org/en/controversial-service-that-ranked-job-seekers-based-on-personal-emails-folds-following-algorithmwatch-investigation/

https://algorithmwatch.org/en/controversial-service-that-ranked-job-seekers-based-on-personal-emails-folds-following-algorithmwatch-investigation/


Ruggs, E. N., Walker, S. S., Blanchard, A., & Gur, S. (2016). Online Exclusion: Biases That

May Arise When Using Social Media in Talent Acquisition. In R. N. Landers & G. B.

Schmidt (Eds.), Social Media in Employee Selection and Recruitment: Theory,

Practice, and Current Challenges (pp. 289–305). https://doi.org/10.1007/978-3-319-

29989-1_14

Sánchez-Monedero, J., Dencik, L., & Edwards, L. (2019). What Does It Mean to ‘Solve’ the

Problem of Discrimination in Hiring? (SSRN Scholarly Paper No. ID 3463141).

Retrieved from Social Science Research Network website:


Sharone, O. (2017). LinkedIn or LinkedOut? How Social Networking Sites are Reshaping the

Labor Market. In Research in the Sociology of Work: Vol. 30. Emerging Conceptions

of Work, Management and the Labor Market (Vol. 30, pp. 1–31).

https://doi.org/10.1108/S0277-283320170000030001

Spaans, V. (2019, August 25). De Strijd om de Jonge Sollicitant: ‘We Moeten Kandidaten

Verleiden.’ Retrieved November 13, 2019, from Het Parool website:

https://www.parool.nl/gs-b3df114c

Speicher, T., Ali, M., Venkatadri, G., Ribeiro, F., Arvanitakis, G., Benevenuto, F., … Mislove,

A. (2018). Potential for Discrimination in Online Targeted Advertising. FAT 2018 -

Conference on Fairness, Accountability, and Transparency, 81, 1–15. Retrieved from

https://hal.archives-ouvertes.fr/hal-01955343

Spice, B. (2015, July 7). Questioning the Fairness of Targeting Ads Online. Retrieved May 15,

2019, from Carnegie Mellon University website:

http://www.cmu.edu/news/stories/archives/2015/july/online-ads-research.html

Tiemeijer, W.L. (2011). Hoe mensen keuzes maken: de psychologie van het beslissen.

Amsterdam: Amsterdam University Press

Thiel, V. (2019). Defective Computing: How Algorithms Use Speech Analysis to Profile Job

Candidates [AlgorithmWatch.org]. Retrieved December 6, 2019, from AlgorithmWatch

website: https://algorithmwatch.org/en/story/speech-analysis-hr/

Thijs, C. (2019). High-Tech versus High-Tech: Hoe digitale discriminatie digitaal te detecteren.

Beleidsonderzoek Online, 0(5). https://doi.org/10.5553/BO/221335502019000005001

Valkenburg, J. (2018). Recruitment 3.0: Werving en selectie in een wereld van sociale media,

chatbots en Al. Alphen aan den Rijn: Vakmedianet.

Van de Haterd, B. (zonder datum). White Paper Moderne Assessment Tools.

Van Iddekinge, C. H., Lanivich, S. E., Roth, P. L., & Junco, E. (2016). Social Media for

Selection? Validity and Adverse Impact Potential of a Facebook-Based Assessment.

Journal of Management, 42(7), 1811–1835.

https://doi.org/10.1177/0149206313515524

https://doi.org/10.1007/978-3-319-29989-1_14

https://doi.org/10.1007/978-3-319-29989-1_14


https://doi.org/10.1108/S0277-283320170000030001

https://www.parool.nl/gs-b3df114c

https://hal.archives-ouvertes.fr/hal-01955343

http://www.cmu.edu/news/stories/archives/2015/july/online-ads-research.html

https://algorithmwatch.org/en/story/speech-analysis-hr/

https://doi.org/10.5553/BO/221335502019000005001

https://doi.org/10.1177/0149206313515524


Van der Land, S. F., Willemsen, L. M., & Unkel, S. A. J. (2015). Are Spectacles the Female

Equivalent of Beards for Men? How Wearing Spectacles in a LinkedIn Profile Picture

Influences Impressions of Perceived Credibility and Job Interview Likelihood. In F. Fui-

Hoon Nah & C.-H. Tan (Eds.), HCI in Business (pp. 175–184). Springer International

Publishing.

Vetzo, M., Gerards, J., & Nehelman, R. (2018). Algoritmes en Grondrechten. Den Haag: Boom

Juridisch.

Vuik, I., Hemminga, M., & Waasdorp, G.-J. (2018). De Stand van Werven 2018: Talent

Verleiden, Verrassen én Verbinden. Retrieved from Academie voor

Arbeidsmarktcommunicatie website: https://tnoportal.tno.nl/wp-

content/uploads/2018/05/,DanaInfo=www.arbeidsmarktcommunicatie.eu,SSL+De-

Stand-van-Werven-2018.pdf

Wabeke, T., Klos, V., & Timan, T. (2018). Tijd voor Implementatie van Verantwoorde

Datadiensten: De Trias Analytica voor Responsible Data Science. Retrieved from

TNO website:

https://www.google.com/url?sa=t&rct=j&q=&esrc=s&source=web&cd=1&ved=2ahUK

Ewjf7bb59KTgAhWIjqQKHfXlDJwQFjAAegQIBBAC&url=http%3A%2F%2Fpublicatio

ns.tno.nl%2Fpublication%2F34627028%2FKALZsM%2FTNO-2018-

datadiensten.pdf&usg=AOvVaw2MZUPldNblCYQzuvC7tTa9

Wagenaar, S., & De Wit, J. (2018). Hoe werven werkgevers? Inzichten in de zoektocht van

bedrijven naar personeel. Retrieved from UWV website:

https://www.uwv.nl/overuwv/kennis-cijfers-en-

onderzoek/arbeidsmarktinformatie/hoe-werven-werkgevers.aspx

Wesselink, S. (2012). Recruitment Via Social Networking Sites: The effect of Social

Networking Sites and social ties on the reach and efficacy of Social Networking Site-

vacancies. (MA Thesis, University of Twente, Business Administration and Human

Resource Management). Retrieved from

https://essay.utwente.nl/62502/1/MSc_S_Wesselink.pdf

White House. (2016). Big Data: A Report on Algorithmic Systems, Opportunity, and Civil

Rights. Retrieved from Executive Office of the President website:

https://obamawhitehouse.archives.gov/sites/default/files/microsites/ostp/2016_0504_

data_discrimination.pdf

https://tnoportal.tno.nl/wp-content/uploads/2018/05/,DanaInfo=www.arbeidsmarktcommunicatie.eu,SSL+De-Stand-van-Werven-2018.pdf



https://www.google.com/url?sa=t&rct=j&q=&esrc=s&source=web&cd=1&ved=2ahUKEwjf7bb59KTgAhWIjqQKHfXlDJwQFjAAegQIBBAC&url=http%3A%2F%2Fpublications.tno.nl%2Fpublication%2F34627028%2FKALZsM%2FTNO-2018-datadiensten.pdf&usg=AOvVaw2MZUPldNblCYQzuvC7tTa9




https://www.uwv.nl/overuwv/kennis-cijfers-en-onderzoek/arbeidsmarktinformatie/hoe-werven-werkgevers.aspx

https://www.uwv.nl/overuwv/kennis-cijfers-en-onderzoek/arbeidsmarktinformatie/hoe-werven-werkgevers.aspx

https://essay.utwente.nl/62502/1/MSc_S_Wesselink.pdf

https://obamawhitehouse.archives.gov/sites/default/files/microsites/ostp/2016_0504_data_discrimination.pdf

https://obamawhitehouse.archives.gov/sites/default/files/microsites/ostp/2016_0504_data_discrimination.pdf


A Bijlage: Interviewprotocol

Doel onderzoek “Digitale discriminatie bij werving en selectie”

Gelijke kansen op de arbeidsmarkt zijn nodig voor een duurzame arbeidsmarkparticipatie van

alle Nederlanders. In het TNO rapport ‘Risico’s voor Discriminatie bij Werving en Selectie

Huidige Gang van Zaken en Trends’ (2018) werd een verandering geconstateerd op de

arbeidsmarkt: het gebruik van recruitment technologie en automatisering in het verwerving-

en selectieproces neemt toe (zie bijlage).

Het is van belang om inzicht te krijgen in hoe deze ontwikkeling zich verhoudt tot diversiteit en

uitsluiting en hoe hierop geanticipeerd moet worden door ontwerpers van deze systemen en

algoritmen, gebruikers en de overheid. Daarom voert TNO sinds mei 2019 een onderzoek uit

onder de werktitel ‘Marktverkenning: Digitale discriminatie bij werving en selectie’.

Het doel van dit gesprek is om een beeld te krijgen welke eventuele recruitment

technologieën uw organisatie inzet in het wervings- en selectieproces. Het is voor ons

relevant om te horen hoe vaak en welke technologieën/instrumenten worden ingezet, in

welke fase(s) deze instrumenten worden ingezet, met welk doel en hoe deze in de

praktijk werken. Ook willen we gebruikmaken van uw ervaring en expertise om het

risico op discriminatie in te schatten.

Voor we aan dit gesprek beginnen, willen we benadrukken dat we vertrouwelijk omgaan met

de door u gegeven antwoorden. In de rapportage zullen de antwoorden niet teruggeleid

kunnen worden naar u of uw organisaties.

>> Toelichting gebruikte begrippen:

› Onder digitale systemen en instrumenten verstaan we recruitment technologie, zoals

query gebaseerde databases, maar ook kunstmatige intelligente (artificial intelligence of

AI) toepassingen (voorbeelden zie bijlage 1).

› In het onderzoek nemen we zowel het wervings- als het selectieproces mee; we knippen

het proces op in 4 hoofdstappen: 1 wervingsfase, 2 selectiefase, 3 beoordelingsfase, 4

aanstellingsfase. Biedt deze structuur de mogelijkheid om uw wervings- en

selectieproces te bespreken?

› We duiden discriminatie als gevolg van of gefaciliteerd door het gebruik van recruitment

technologie aan als ‘digitale discriminatie bij werving en selectie’.

› Onder bias verstaan we een ‘systematische vertekening of fout’, anders dus dan toeval.

Het interview neemt maximaal een uur in beslag.

Informed Consent laten ondertekenen.

>> Heeft u voorafgaand aan het gesprek nog vragen?


1. Algemene introducerende vragen

1) Wat is uw functie?

a) Wat is uw professionele/studie achtergrond?

b) Hoe lang bent u werkzaam bij deze organisatie?

2) In welke sector(en) is uw organisatie werkzaam?

3) Wat zijn uw werkzaamheden als recruiter/HR functionaris?

4) Wie zijn binnen uw organisatie betrokken bij het wervings- en selectieproces?

5) Zijn er derde partijen betrokken bij het wervings- en selectieproces?

6) Gebruikt u recruitment technologieën zoals doorzoekbare databases, Facebook, LinkedIn

of andere technologieën in het wervingsproces?

a) Zo ja, waarom kiest u voor deze recruitment technologie(ën)?

i) Met welk doel zet u deze in?

ii) Welke recruitment technologieën zet u het meest in?

iii) Door wie of welke partij wordt deze technologie ontwikkeld?

b) Zo nee, waarom maakt u geen gebruik van recruitment technologie in deze fase?

i) Heeft u in uw twee vorige functie(s) recruitment technologieën gebruikt?

>> Doorvraag over de max. drie meest gebruikte recruitment technologieën:

[indien er nu geen recruitment technologieën worden gebruikt, doorvragen naar gebruik in

vorige functies]

7) Hoe gebruikt u de recruitment technologie in de praktijk?

a) Wat wilt u hiermee bereiken?

b) Hoe verschilt het gebruik van de genoemde recruitment technologie per: hoog/laag

opgeleid; junior (trainees) /senior rollen of posities?

i) Maakt u andere soorten onderscheid tussen doelgroepen in het gebruik?

c) Kunt u gebruikmaken van filters en criteria?

i) Welke criteria en filters zijn voor u van belang?

ii) Welke criteria en filters gebruiken uw collega’s, of gebruikte u bij uw vorige

werkgever?

Wervingsfase

>> In de wervingsfase zoeken betrokkenen bij het recruitmentproces naar kandidaten om

hun vacatures aan te bieden. Digitale recruitmentkanalen en -technologieën zoals

LinkedIn, Facebook, Google for jobs, Twitter etc. kunnen helpen een kandidatenpool

samen te stellen. In deze fase kan ook recruitment technologie worden gebruikt om

bijvoorbeeld beter aansprekende vacatureteksten te schrijven of om bepaalde groepen te

bereiken.


8) Is er volgens u risico op uitsluiting en bias in het gebruik van deze technologieën?

a) Op welke wijzen kan een sollicitant op de hoogte raken van een vacature?

i) Is er een mogelijkheid dat groepen vanwege het gebruik van deze recruitment

technologie systematisch worden buitengesloten?

b) Hoe kunnen de genoemde recruitment technologieën de diversiteit van de

sollicitantenpool beïnvloeden?

i) Wat verstaat u onder diversiteit?

ii) Ervaart u een effect? (Wordt dit gemonitord en zo ja, hoe?)

iii) Hoe komt het onderwerp aan bod in uw beroepsveld, bijv. in conferenties of

vakliteratuur?

c) Vraagt u feedback aan sollicitanten over uw gebruik van deze technologieën bij de

werving van sollicitanten?

9) Hoe bepaalt u de belangrijkste kenmerken waarop sollicitanten worden uitgenodigd voor

een assessment of sollicitatiegesprek?

10) Maakt u in deze fase gebruik van recruitment technologie?

a) Zo ja, waarom kiest u voor deze recruitment technologie?

i) Met welk doel zet u het in?



b) Zo nee, waarom maakt u geen gebruikt van recruitment technologie in deze fase?

i) Heeft u in uw vorige functie recruitment technologieën gebruikt?


11) Hoe gebruikt u de recruitment technologie in de praktijk?





c) Hoe dragen deze technologieën bij aan de selectie?

i) Kunt u inschatten voor hoeveel sollicitanten de technologie per jaar wordt

ingezet?

ii) Hoe en door wie wordt uiteindelijk een beslissing genomen over de kandidaten

die door mogen naar de volgende ronde?

12) Is er volgens u risico op uitsluiting of bias in het gebruik van deze technologieën?

a) Is er een mogelijkheid dat groepen systematisch hierdoor minder kans krijgen om

geselecteerd te worden?

Selectiefase

>> In de selectiefase beoordelen betrokkenen bij het recruitmentproces de aanvragen.

Met behulp van recruitment technologie zoals chatbots, online assessment tools of

games kunnen ze hun pool van aanvragers kleiner maken.


b) Vraagt u feedback aan sollicitanten over uw gebruik van deze technologieën bij de

selectie van sollicitanten?

13) Welke vormen van beoordeling gebruikt u?

a) Wie zijn er bij de beoordeling betrokken?

b) Welke strategie, spelregels of uitgangspunten hanteert u tijdens deze fase ?

14) Maakt u in de beoordeling gebruik van recruitment technologie?







>>Doorvraag over de max. drie meest gebruikte recruitment technologieën:

15) Hoe werkt deze recruitment technologie?





c) Op welke wijze dragen deze technologieën bij aan de beoordeling?


ingezet?

ii) Hoe wordt uiteindelijk een beslissing genomen over de kandidaten die door

mogen naar de volgende (gespreks– of beoordelings)ronde?

16) Is er volgens u risico op uitsluiting en bias in het gebruik van deze technologieën?

a) Is er een mogelijkheid dat groepen worden achtergesteld in de beoordeling?

i) Ervaart u een effect? (Wordt dit gemonitord en zo ja, hoe?)

ii) Wat is hierover bekend in uw professionele veld (conferenties, vakliteratuur,

collega’s etc.)?

b) Vraagt u feedback aan sollicitanten over uw gebruik van technologieën in deze fase?

Beoordelingsfase

>> In deze fase beoordelen betrokkenen de individuele aanvragers op basis van

(diverse) selectiegesprekken en/of assessments. Recruitment technologieën, zoals

video-interviews, claimen in dit stadium onder andere de kenmerken, vaardigheden en

karaktereigenschappen van kandidaten te kunnen meten door automatisch verbale

reacties, toon en zelfs gezichtsuitdrukkingen te analyseren.

Aanstellingsfase

>> Deze fase is gericht op definitieve beslissingen over indienstneming, waaronder

achtergrondcontroles en onderhandelingen over aanbiedingsvoorwaarden. In deze fase

kan bijvoorbeeld recruitment technologie in worden gezet om cv’s op waarheid te

checken.


17) Hoe en door wie wordt de beslissing genomen wie van de kandidaten uiteindelijk de baan

krijgt?

18) Maakt u in deze fase gebruik van recruitment technologie?








19) Hoe werkt deze recruitment technologie?





c) Op welke wijze dragen deze technologieën bij aan de beslissing om iemand aan te

nemen?


ingezet?

20) Is er volgens u risico dat groepen worden achtergesteld door het gebruik van deze

technologieën?

i) Wat is hierover bekend in uw professionele veld (conferenties, vakliteratuur,

collega’s etc.)?

b) Vraagt u feedback aan sollicitanten over uw gebruik van technologieën in deze fase?

21) Wat zijn de belangrijkste vaardigheden voor het gebruik van recruitment technologie?

a) Hoe leren u en uw collega’s de computerprogramma’s, (social media) apps of tools te

gebruiken? Wordt er training aangeboden?

22) Bestaan er gedragscodes en wetgeving als het gaat om het gebruik van recruitment

technologie zoals LinkedIn, Facebook, Google for jobs, Twitter etc.?

a) Zijn betrokkenen bij het recruitmentproces bewust van mogelijke bias door het gebruik

van recruitment technologie?

i) Zo ja, waar blijkt dat uit?

ii) Zo nee, hoe zou die bewustwording kunnen worden gestimuleerd?

b) Bestaan er binnen uw organisatie of sector regels voor het gebruik van informatie van

social media profielen van sollicitanten in de selectie?

Algemeen >> We zouden graag nog enkele algemene vragen stellen over het wervings- en selectie-proces.

Reflectie

>>We willen dit gesprek afsluiten met enkele vragen ter reflectie


23) Welke trends/ontwikkelingen ziet u op het gebied van het gebruik van recruitment

technologie bij werving en selectie?

24) Wat zijn maximaal verbeterpunten (max. 3) voor de ontwikkeling en het gebruik van

recruitment technologieën?

25) Bent u van mening dat het gebruik van recruitment technologie bijdraagt aan gelijke

kansen op de arbeidsmarkt? Zo ja, waarom? Zo nee, waarom niet? Waarin schuilt de

gevoeligheid voor discriminatie?

26) Bij wie ligt de verantwoordelijkheid om juist om te gaan recruitment technologie in het

werving- en selectieproces?

a) Binnen de organisatie

b) Binnen Nederland

>> Heeft u nog vragen of opmerkingen?

Wij willen u hartelijk danken voor het beantwoorden van de vragen.


B Bijlage: Juridisch kader

Inleiding

In het kader van het project ‘Digitale Arbeidsmarktdiscriminatie’ is een inventarisatie gemaakt

van relevante weten regelgeving ten behoeve van het tegengaan van discriminatie bij het

gebruik van recruitmenttechnologieën. De focus van deze verkenning is het risico op

discriminatie bij de inzet van digitale middelen die het proces van werving en selectie

ondersteunen maar waarbij gemerkt of ongemerkt, bewust of onbewust sprake kan zijn van

discriminatie. Deze middelen kunnen relatief eenvoudig zijn, zoals het bekijken van een

sollicitant zijn of haar activiteiten op sociale media. Geavanceerdere middelen zijn de inzet

van online assessment tools. Voorbeelden van deze tools zijn serious games, geavanceerde

online vragenlijsten en tools die visuele informatie verwerken tijdens een sollicitatiegesprek.

Tijdens verschillende fases in het wervings- en selectieproces worden persoonsgegevens

verwerkt. Op deze verwerking is de Algemene verordening gegevensbescherming van

toepassing. In sommige gevallen kan sprake zijn van de verwerking van bijzondere

categorieën van persoonsgegevens.38 Die verwerking is verboden tenzij één van de

uitzonderingsbepalingen geldt.39 In de regel moet er altijd een legitieme grondslag en een

gerechtvaardigd doel voor de gegevensverwerking zijn. De grondslag voor

gegevensverwerking kan, in beginsel, een door de betrokkene afgegeven toestemming zijn.

Omdat er sprake is van een hiërarchische relatie tussen de werkgever en de sollicitant zijn

hier strenge voorwaarden aan verbonden.40

Bij inzet van geavanceerdere digitale middelen kan art 22 AVG van belang zijn. Dit artikel geeft

betrokkenen de mogelijkheid om menselijke tussenkomst te eisen indien er sprake is van

geautomatiseerde besluitvorming (waaronder profilering). Een voorbeeld hiervan is een eerste

selectie van kandidaten waarbij de ondervraging van de kandidaten volautomatisch verloopt

en de resultaten daarvan volautomatisch tot een profiel van de kandidaat worden uitgewerkt.

Als een volautomatisch gecreëerd profiel de grondslag vormt van de beoordeling van de

kandidaat zal de AVG dit niet snel toestaan.

In deze inventarisatie zullen de belangrijkste bepalingen van de AVG inclusief de

uitzonderingen en de mogelijke uitwerking hiervan op de praktijk van werving en selectie met

digitale middelen aan de orde komen. In Nederland is de AVG uitgewerkt in de Uitvoeringswet

AVG. Deze wet voegt geen bijzonderheden toe aan de AVG voor wat betreft de verwerking

van gegevens ten behoeve van de arbeidsrelatie (inclusief werving en selectie). Wel biedt de

UAVG een enigszins uitgebreide interpretatie van de mogelijke inzet van geautomatiseerde

besluitvorming. Ook deze wet wordt in deze inventarisatie waar van belang besproken.

Andere regelingen die van belang kunnen zijn hebben betrekking op de vraag of er sprake is

van ongelijke behandeling. De Algemene Wet Gelijke Behandeling (AWGB) stelt hierin een

38 Dit zijn gegevens waaruit ras of etnische herkomst, religieuze of levensbeschouwelijke

overtuigingen, politieke opvattingen of het lidmaatschap van een vakbond blijkt, genetische gegevens, biometrische gegevens met het oog op de unieke identificatie van personen, gezondheidsgegevens en gegevens over seksuele gedragingen of seksuele gerichtheid (AVG, art 9(1)).

39 AVG, art 9. 40 Zoals in het vervolg aan de orde zal komen, is de grondslag ‘geïnformeerde toestemming’ voor

de verwerking van gegevens tijdens een sollicitatieprocedure zelden toelaatbaar.


aantal specifieke eisen die ook van toepassing zijn bij werving en selectie. Zo bepaalt Art. 5

lid 1 dat het verboden is onderscheid te maken bij de werving en selectie (in art 5, lid 1, sub a

weergegeven als “de aanbieding van een betrekking en de behandeling van de vervulling van

een openstaande betrekking”). De AWGB kent direct onderscheid en indirect onderscheid.

Beide kunnen van belang zijn bij processen van werving en selectie.41

Behalve de AWGB is sprake van een aantal specifieke wetten met betrekking tot ongelijke

behandeling bij werving en selectie: de Wet gelijke behandeling van mannen en vrouwen, de

Wet gelijke behandeling op grond van leeftijd en de Wet gelijke behandeling op grond van

handicap of chronische ziekte.42 Er is een aantal situaties waarin het onder bepaalde

omstandigheden toch toegestaan is om onderscheid te maken. Zo kan bijvoorbeeld indirecte

discriminatie objectief gerechtvaardigd zijn. En mag er onder strikte voorwaarden

voorkeursbeleid worden gevoerd.

In de gelijke behandelingswetgeving is een aantal bepalingen opgenomen die voorkeursbeleid

mogelijk maken. Voorkeursbeleid mag gevoerd worden bij ‘gelijke geschiktheid’ (en dus niet

bij voldoende geschiktheid). In het geval van gelijke geschiktheid kan onder voorwaarden

gekozen worden voor een sollicitant uit een achterstandsgroep. Voorkeursbeleid is niet voor

alle groepen met een achterstand toegestaan, het mag alleen gevoerd worden voor vrouwen,

etnische minderheden en mensen met een beperking. Als een werkgever voorkeursbeleid

voor een van deze groepen wil voeren moet er aantoonbaar sprake zijn van achterstand

binnen de specifieke situatie. Ook moet de maatregel in redelijke verhouding staat tot het doel

en de werkgever moet al bij de werving (in de vacaturetekst) aangegeven dat er

voorkeursbeleid wordt gevoerd.43 Toepassing van voorkeursbeleid bij een werving- en

selectieprocedure vergt veel menselijke beoordeling en de vraag is of het snel toegepast kan

worden op procedures die grotendeels zijn geautomatiseerd.

Bij indirect onderscheid is minder duidelijk dat er onderscheid wordt gemaakt naar een

beschermd kenmerk. Er is sprake van indirecte discriminatie wanneer een (schijnbaar)

neutrale regel in zijn effect een groep in het bijzonder benadeelt. Toegepast op

geautomatiseerde werving en selectie kan er bijvoorbeeld ook sprake zijn van indirect

onderscheid op grond van etniciteit wanneer het kenmerk etniciteit (of kenmerken die duidelijk

met etniciteit samenhangen) niet in de data voorkomen. De gelijke behandelingswetgeving

stelt geen eisen over wat er is vastgelegd in data, maar gaat alleen in op het effect. De vraag

is of de AWGB op dit punt aanvullende eisen stelt in vergelijking met de AVG. Indirect

onderscheid is alleen toegestaan als er een goede reden voor is (objectieve rechtvaardiging).


legitiem en het middel geschikt en noodzakelijk is.

Het wetboek van strafrecht kent twee artikelen die ingaan op discriminatie op de arbeidsmarkt

(art 137g en art 429quater). Interessant is dat discriminatie volgens 429quater betrekking kan

hebben op ras, godsdienst, levensovertuiging, geslacht, seksuele gerichtheid en handicap.

41 Van oorsprong zijn met name deze wetten van belang voor de signalering en beoordeling van

discriminatoire praktijken bij werving en selectie. De wetten hanteren een open normenkader: bepaling van wat tot directe of indirecte discriminatie leidt, is afhankelijk van de beoordeling van de specifieke situatie.

42 Zie Factsheet Discriminatie en Arbeid van Radar; http://radar.nl/file/2823337/Factsheet+discriminatie+en+arbeid+def+%281%29.pdf (geraadpleegd 20 mei 2019). Zie ook https://wetten.overheid.nl/BWBR0006502/2015-07-01

43 Zie https://www.mensenrechten.nl/nl/gelijkebehandelingswetgeving#AWGB

https://wetten.overheid.nl/BWBR0006502/2015-07-01

https://www.mensenrechten.nl/nl/gelijkebehandelingswetgeving#AWGB


De bijzondere categorieën van persoonsgegevens die de AVG opvoert lopen nagenoeg met

deze opdeling in de pas. Uitzondering is geslacht.

Daarnaast ontbreekt leeftijd als discriminerende factor in dit lijstje in het wetboek van

strafrecht. Discriminatie op grond van de genoemde factoren in het wervings- en

selectieproces kan leiden tot een strafzaak.44

De Nederlandse vereniging voor Personeelsmanagement en Organisatieontwikkeling (NVP)

heeft in samenwerking met de Stichting voor de Arbeid een sollicitatiecode ontwikkeld die

organisaties kunnen onderschrijven.45 Art 2.5, 3.2 en 3.4 van de gedragscode gaan in op de

werkwijze wanneer gebruik wordt gemaakt van digitale hulpmiddelen bij werving en selectie.

Leeswijzer

Deze rapportage beperkt zich grotendeels tot een bestudering van de eisen die de AVG stelt

aan de verwerking van persoonsgegevens vanuit het perspectief van werving en selectie. Het

wettelijk kader dat door de wetten gelijke behandelingen wordt geboden, blijft grotendeels

buiten zicht. Dat betekent niet dat dit kader niet van belang is, integendeel. Voor een

omvattend perspectief op mogelijke vormen van discriminatie zal een integrerende analyse

van beide wettelijke kaders (wetten gelijke behandeling en verordening

gegevensbescherming) gepresenteerd moeten worden. In deze verkenning beperken we ons

echter tot het wettelijk kader dat – ook in het perspectief van de zich ontwikkelende nieuwe

systemen – een sterkere rol in het toezicht op deze systemen kan gaan spelen dan in het

verleden het geval was, te weten de Algemene Verordening Gegevensbescherming.

In dit overzicht wordt gestart met de belangrijkste bevindingen uit de AVG. Dit betreft ten eerste

de maatregelen die de AVG stelt ten aanzien van de verwerking van persoonsgegevens. Ten

tweede betreft dit de eisen die de AVG stelt indien sprake is van geautomatiseerde

besluitvorming, inclusief profilering. De geautomatiseerde besluitvorming is een relatief nieuw

fenomeen dat als zodanig niet in andere wetten dan de AVG expliciet aan de orde komt.

De inventarisatie sluit af met een overzicht van de belangrijkste bevindingen die uit de

juridische kaders, regels en richtlijnen voor werving en selectie gesteld worden en die een rol

kunnen spelen als gebruik wordt gemaakt van digitale middelen.

De AVG – verwerking van persoonsgegevens

De AVG stelt regels voor de legitieme verwerking van persoonsgegevens. Een

persoonsgegeven is een gegeven dat direct of indirect herleidbaar is tot een persoon. Bij een

wervings- en selectieproces kan dit een veelheid aan gegevens betreffen. De verwerking moet

noodzakelijk zijn, mag niet meer gegevens betreffen dan strikt noodzakelijk, moet een

gespecificeerd, expliciet en legitiem doel hebben en moet gebaseerd zijn op een legitieme

grondslag. De eerste drie voorwaarden leiden niet tot bijzondere vraagstukken.

44 Zie Factsheet Discriminatie en arbeid van Radar, p. 2. Als voorbeeld wordt in de Factsheet

mailverkeer genoemd dat discriminerende uitingen bevat rond een sollicitatieprocedure. 45 https://nvp-plaza.nl/download/?id=13690 (geraadpleegd 15 mei 2019).


Bij een wervings- en selectieproces is duidelijk dat er een noodzaak tot de verwerking van

persoonsgegevens is en ook het doel daarvan is evident.46

Niet meer gegevens verwerken dan strikt noodzakelijk betekent dat de partij die de werving

en de selectie verzorgt zich rekenschap dient te geven van de vraag of bepaalde gegevens

noodzakelijk zijn om de geschiktheid van een persoon voor een bepaalde functie te

beoordelen. De AVG voegt op dit punt geen nieuwe eisen toe aan al bestaande weten

regelgeving. De vierde voorwaarde, een legitieme grondslag, kan op verschillende manieren

worden ingevuld. In principe kan één van de zes grondslagen die de AVG aanbiedt gekozen

worden.47 Een grondslag die erg voor de hand lijkt te liggen, de geïnformeerde toestemming

van de betrokkene, valt in de regel echter af voor deze situatie (we komen hier op terug – zie

paragraaf 2.1). Dat betekent dat in de regel een beroep moet worden gedaan op één van de

vijf andere grondslagen. Daarvan komen er drie in aanmerking: gegevensverwerking is

noodzakelijk voor de uitvoering of voorbereiding van een contract, vanwege de uitvoering van

een wettelijk voorschrift, of vanwege een gerechtvaardigd belang van de

verwerkingsverantwoordelijke (resp. art 6, lid 1, sub b, sub c en sub f). We komen hier op

terug.

De AVG maakt onderscheid tussen ‘gewone’ persoonsgegevens en ‘bijzondere categorieën

van persoonsgegevens’ (in de volksmond ‘gevoelige’ gegevens genoemd). Gevoelige

gegevens zijn gegevens waaruit ras of etnische herkomst, politieke opvattingen, religieuze of

levensbeschouwelijke overtuigingen of het lidmaatschap van een vakbond blijken, genetische

gegevens, biometrische gegevens met het oog op de unieke identificatie van een persoon, en

gegevens over de gezondheid, de seksuele gerichtheid en het seksuele gedrag van een

persoon (AVG, art 9, lid 1). Op verwerking van gevoelige gegevens rust een verbod tenzij een

uitzonderingsgrond ingeroepen kan worden. Uitzonderingsgronden die voor wervings- en

selectieprocedures van belang zijn, zijn de uitdrukkelijke toestemming van een betrokkene

(AVG, art 9, lid 2, sub a), een noodzakelijke verwerking vanwege het arbeidsrecht (AVG, art

9, lid 2, sub b) of verwerking van gegevens die ‘kennelijk’ openbaar zijn gemaakt (AVG, art 9,

lid 2, sub e).

Bij wervings- en selectieprocedures kunnen gegevens verwerkt worden die behoren tot de

bijzondere categorieën van persoonsgegevens. Bijvoorbeeld: een bepaalde achternaam of

een foto kan een bepaalde etnische achtergrond doen vermoeden. Ook kan tijdens de

wervings- en selectieprocedure informatie herleid worden over andere gevoelige gegevens

Bijvoorbeeld: een hobby (lid katholieke zangvereniging, vrijwilliger bij een moskee) zou ook

een bijzonder gegeven kunnen impliceren. Indien sprake is van de verwerking van bijzondere

46 De grondslag voor de verwerking van deze gegevens kan gevonden worden in het gerechtvaardigd

belang (AVG, art 6, lid 1, sub f) dat de werkgever c.q. het bureau dat de werving en selectie uitvoert heeft. Om deze grondslag op te mogen voeren moet de verwerkingsverantwoordelijke wel nagaan of de betreffende situatie zich hiertoe leent. De Autoriteit Persoonsgegevens geeft in een normuitleg aan dat sprake moet zijn van een geschreven of ongeschreven rechtsregel of rechtsbeginsel moet zijn dat evenwel onvoldoende houvast biedt om als wettelijke verplichting of als publiek belang te kunnen worden aangemerkt in het kader van de AVG. De werkgever zal na moeten gaan of de verwerking van de gegevens noodzakelijk is om het gestelde doel te bereiken, proportioneel is (in verhouding tot de gepleegde inbreuk op de persoonlijke levenssfeer) en subsidiair is (van de mogelijk te kiezen aanpakken leidt deze aanpak tot de minst omvangrijke inbreuk op de persoonlijke levenssfeer). Ten derde moet een afweging van belangen gemaakt worden met betrekking tot de gevolgen voor de betrokkene, de te treffen (aanvullende) waarborgen, de voorzienbaarheid van de verwerking en de ernst van de inmenging. Zie https://autoriteitpersoonsgegevens.nl/sites/default/files/atoms/files/normuitleg_gerechtvaardigd_belang.pdf (laatst geraadpleegd 29 november 2019).

47 AVG, art. 6, lid 1.


categorieën van gegevens, moet één van de navolgende uitzonderingsgronden ingeroepen

kunnen worden.

Uitdrukkelijke toestemming

Indien toestemming als grondslag voor de gegevensverwerking wordt gebruikt moet aan een

aantal bepalingen worden voldaan: de toestemming moet geïnformeerd zijn, specifiek,

ondubbelzinnig en vrijelijk gegeven (AVG, art 4, lid 11). Een betrokkene is geïnformeerd

wanneer hij/zij weet waarvoor de toestemming gevraagd wordt en de consequenties kan

overzien van het wel of niet verwerken van de gegevens. Specifiek wil zeggen dat de

toestemming wordt gegeven voor een afgebakend en aangegeven doel. Ondubbelzinnig wil

zeggen dat de toestemming apart gegeven moet worden en niet vermengd mag worden met

de instemming met andere voorwaarden. Tot slot is een toestemming alleen vrijelijk gegeven

wanneer de betrokkene op geen enkele wijze gedwongen wordt om voor of tegen de

gegevenswerking te kiezen.

Vanwege de onbalans in de machtsverhouding tussen werkgever en werknemer is er in de

regel geen sprake van ‘vrijelijk’ gegeven toestemming.48 Indien een werknemer zich verplicht

voelt om gegevens te verschaffen omdat het niet verschaffen negatieve effecten kan hebben,

is sprake van een situatie waarin deze grondslag niet meer gerechtigd is. Ook sollicitanten

kunnen zich verplicht voelen om gegevens te overhandigen, omdat zij vrezen dat het

achterhouden van de gegevens hun kans op de baan zal verkleinen.

De hierboven gegeven voorwaarden gelden in alle gevallen. Bij de verwerking van bijzondere

categorieën van gegevens geldt daarnaast dat de toestemming ook uitdrukkelijk moet zijn

gegeven. Dat wil zeggen dat de toestemming duidelijk apart van andere wilsuitingen moet

worden gegeven en ook via een bevestigende actie moet zijn vastgelegd. Omdat toestemming

als grondslag in een werkgever-werknemer relatie in de regel niet gepast is, geldt dit zeker

ook voor de uitdrukkelijke toestemming voor de verwerking van gevoelige gegevens.

In dit perspectief is het nog interessant om op te merken dat de wetten gelijke behandeling

ook leeftijd en sekse als gegeven beschouwen waarvoor aanvullende wettelijke

beschermende maatregelen noodzakelijk zijn. Vanuit de AVG bezien zijn deze twee

gegevenscategorieën ‘gewone’ persoonsgegevens en mogen deze verwerkt worden wanneer

er een legitiem doel en een legitieme grondslag voor aanwezig zijn. Maar ook voor de

verwerking van deze gegevens geldt dat toestemming niet zonder meer als legitieme grond

kan worden ingeroepen in een wervings- en selectieprocedure.

Voldoen aan verplichtingen door de verwerkingsverantwoordelijke in het licht van

wettelijke bepalingen.

Een tweede uitzonderingsgrond voor de verwerking van bijzondere categorieën van

persoonsgegevens is de noodzaak voor de verwerkingsverantwoordelijke om aan zijn

verplichtingen te voldoen of om zijn rechten uit te kunnen oefenen dan wel eenzelfde

noodzaak voor de betrokkene op het gebied van arbeid. Er moet dan sprake zijn van

48 Zie Art 29 WP, Opinie 2/2017 ‘On data processing at work’ die stelt: “consent is highly unlikely to

be a legal basis for data processing at work, unless employees can refuse without adverse consequence.” (p. 3).


wetgeving op Europees of lidstatelijk niveau die deze noodzaak ondersteunt. Ook kan

hiervoor, in bepaalde gevallen, een collectieve overeenkomst die volgt uit wetgeving op

lidstatelijk niveau worden ingeroepen.49

Het kan zijn dat de (toekomstige) werkgever) met een beroep op de Wet gelijke behandeling

op grond van handicap of chronische ziekte of met een beroep op de Wet gelijke behandeling

van mannen en vrouwen specifieke gegevens wil verwerken die tot de bijzondere categorieën

van persoonsgegevens behoren.50 Dit is in principe toegestaan mits de werkgever een aantal

zorgvuldigheidseisen in acht neemt (informatie aan de betrokkene over doel van de

gegevensverwerking, tijdsduur van de verwerking, rechten van de betrokkene, etc.). Ook dient

de werkgever dan aanvullende veiligheidsmaatregelen te treffen om de rechten en vrijheden

van de betrokkenen te blijven garanderen .51 Buiten de specifieke uitzonderingsgrond met een

beroep op de Wetten gelijke behandeling lijken er niet veel mogelijkheden voor een werkgever

te zijn om bijzondere categorieën van persoonsgegevens in de wervings- en selectieprocedure

te gebruiken. Ook indien deze gegevens ten behoeve van het voldoen aan eisen van

voorkeursbeleid worden gevraagd mogen zij niet voor andere doeleinden gebruikt worden.

Dat laatste zal in de praktijk niet goed te controleren zijn. Het is voorstelbaar dat het aannemen

van een persoon met een bepaalde handicap vraagt dat de werkgever aanvullende informatie

over de betreffende persoon verwerkt. Andersom, het verwerken van gegevens met het oog

om betreffende personen juist uit te sluiten is uiteraard niet toegestaan. Dat houdt in dat de

verwerking van deze gegevens waarschijnlijk pas later in de wervings- en selectieprocedure

aan de orde is.

‘Kennelijke’ openbaarmaking

De AVG staat toe dat bijzondere categorieën van gegevens verwerkt worden als deze

‘kennelijk’ door de betrokkene openbaar zijn gemaakt. De interpretatie van het woord

‘kennelijk’ is naar ons idee ruimer dan de oorspronkelijke Engelse bewoording ‘manifestly’.52

Wij volgen de Engelse interpretatie. Dan houdt de openbaarmaking in dat dit nadrukkelijk het

doel is geweest van de betrokkene. Persoonlijke gegevens die in een besloten

gebruikersgroep zijn gedeeld (bijvoorbeeld gezondheidsgegevens die gedeeld worden in een

groep met lotgenoten die een bepaalde vorm van kanker hebben) zijn niet gedeeld met het

oog op openbaarmaking aan een breder gezelschap. Dit geldt ook voor besloten

Facebookgroepen. De vraag is of het delen van informatie op Facebook in zijn algemeenheid

gezien kan worden als gegevens die nadrukkelijk openbaar zijn gemaakt. Ook Facebook

vraagt immers om een lidmaatschap.

De Sollicitatiecode van de NVP bespreekt het verkrijgen van informatie van internet of social

media.53 Deze informatie behoeft alleen dan met de sollicitant besproken te worden indien dit

49 AVG, art. 9, lid 2 sub b. 50 De veronderstelling hierbij is dat dit beroep in onderhavig geval ook rechtmatig gedaan kan

worden. 51 AVG, art. 22, lid 3. 52 AVG, art. 9, lid 2, sub e. De Engelse tekst spreekt over persoonsgegevens ‘manifestly made public’

terwijl de Nederlandse tekst spreekt over ‘kennelijk zijn openbaar gemaakt’. 53 De Sollicitatiecode is een door de NVP opgestelde code. De code is niet aan de Autoriteit

Persoonsgegevens voorgelegd ter goedkeuring (conform AVG, art 40). Het is niet verplicht om dit te doen. Maar daarmee is er geen zekerheid voor de branche of de code volledig in lijn is met de AVG.


relevant is.54 Onduidelijk in de code is hoe de informatie verkregen wordt. Het lijkt redelijk om

er van uit te gaan dat de partij die de werving en selectie uitvoert, het initiatief neemt.

In het andere geval – de informatie wordt van de sollicitant verkregen – is er geen reden om

dit met de sollicitant te bespreken. Deze weet dit namelijk al. Zoals hiervoor aangegeven, zou

deze verzameling van informatie zich moeten beperken tot informatie die nadrukkelijk door de

sollicitant openbaar is gemaakt. Om dit te kunnen beoordelen zou de sollicitant de verzamelde

informatie moeten kunnen inzien. De code laat de beoordeling van de relevantie van de

verkregen informatie voor het gesprek echter aan de partij die de werving en selectie verzorgt.

Dat houdt in dat de sollicitant niet weet op welke gegevens de partij die de werving en selectie

verzorgt zich baseert. Dit lijkt in strijd met de plicht tot notificatie van de betrokkene dat er

gegevens over hem/haar zijn verwerkt.55 Indien de verzamelde gegevens geen directe

relevantie voor de functie hebben, is het de vraag op basis van welke grondslag en met welk

doel de gegevens verzameld zijn. De gegevens dienen dan klaarblijkelijk geen doel dat

verband houdt met de wervings- en selectieprocedure. De AVG stelt dat deze gegevens dan

ook niet verwerkt (dus ook niet verzameld) mogen worden. De Sollicitatiecode lijkt op dit punt

in strijd met de AVG.56

Algemene toevoegingen vanuit de AVG en de UAVG

Behalve bij de uitzonderingsgronden die aangeroepen kunnen worden, besteedt de AVG en

de UAVG op nog een aantal andere plekken aandacht aan de bijzondere positie van

verwerking van persoonsgegevens door werkgevers. Artikel 88 van de AVG geeft aan dat bij

wet of bij collectieve overeenkomst nadere regels kunnen worden vastgesteld. Die regels

kunnen ook betrekking hebben op de werving en selectie van nieuwe werknemers. Indien een

lidstaat hier gebruik van wil maken had dit voor 25 mei 2018 kenbaar moeten zijn gemaakt.

De UAVG stelt in de Memorie van Toelichting dat de wetgever van deze mogelijkheid geen

gebruik maakt.57 In de Memorie van Toelichting wordt verwezen naar de “wanverhouding (‘a

clear imbalance’ in de Engelse taalversie) tussen de betrokkene en de

verwerkingsverantwoordelijke. Juist in de relatie tussen werknemer en werkgever zal de

werknemer in de praktijk in redelijkheid echter nauwelijks toestemming kunnen weigeren.”58

Op dit punt volgt de UAVG de redenering van de Art29 WP.59

54 NVP, Sollicitatiecode, par 4.1. “De organisatie die via internet en/of social media informatie over

de sollicitant verkrijgt is zich ervan bewust dat deze informatie niet altijd juist, accuraat en/of relevant is. De verkregen openbare informatie zal, indien relevant, met de sollicitant worden besproken, met uitdrukkelijke vermelding van de bron.”

55 AVG, art 14 geeft aan welke informatie verschaft moet worden indien de gegevens op indirecte wijze zijn verkregen (niet rechtstreeks van de betrokkene zelf). In theorie zou voor de werving en selectie alleen de uitzonderingsgrond dat het verschaffen van deze informatie het proces van werving en selectie serieus zal hinderen aan de orde kunnen zijn (AVG, art. 14, lid 5 sub b). Die uitzonderingsgrond lijkt echter in de praktijk niet houdbaar.

56 Zie ook Art. 29 WP (2017). Opinion 2/2017 on data processing at work, WP249, p. 11. De Werkgroep stelt dat mogelijk een beroep op het gerechtvaardigd belang van de verwerkingsverantwoordelijke is in te roepen. Ook dan, zo stelt de Opinie, moet de verzamelde informatie relevant voor het doel zijn. En ook dan – mocht de informatie daadwerkelijk relevant zijn – is notificatie van de betrokkene noodzakelijk.

57 Memorie van Toelichting Uitvoeringswet Algemene verordening gegevenswerking, par. 7.2.12, p. 68.

58 Ibid, p. 68. 59 Zie voetnoot 45.


Geautomatiseerde besluitvorming (waaronder profilering)

Artikel 22 van de AVG gaat in op de eisen rond geautomatiseerde besluitvorming. De AVG

stelt dat een betrokkene het recht heeft om menselijke interventie te eisen indien

geautomatiseerde besluitvorming (inclusief profilering) wettelijke of vergelijkbare significante

andere effecten heeft (AVG, art 22). De Artikel 29 Werkgroep geeft in een recente richtlijn

(februari 2018) het voorbeeld van “e-recruiting practices without any human intervention” als

voorbeeld van wat verstaan kan worden onder geautomatiseerde besluitvorming die

significante effecten produceert.60 Artikel 22 is daarmee toepasbaar op wervings- en

selectieprocedures waarin sprake is van geautomatiseerde besluitvorming, inclusief

profilering.

Profilering wordt door de AVG begrepen als “elke vorm van geautomatiseerde verwerking van

persoonsgegevens waarbij aan de hand van persoonsgegevens bepaalde persoonlijke

aspecten van een natuurlijke persoon worden geëvalueerd, met name met de bedoeling zijn

beroepsprestaties, … te analyseren of te voorspellen.” (AVG, art. 4 lid 4). Het resultaat van

een evaluatie is een typering van een persoon op basis van de geanalyseerde

persoonsgegevens. In de regel leidt dit tot een classificatie van een persoon (bijvoorbeeld:

beschikt over bepaalde competenties, wel of niet geschikt voor bepaalde functies). Profilering

kan tot een besluit leiden (“Mensen met dit profiel komen in aanmerking voor …”) maar dit is

niet noodzakelijk.

Geautomatiseerde besluitvorming betekent dat het gehele traject van besluitvorming

geautomatiseerd verloopt, dat wil zeggen zonder enige vorm van menselijke tussenkomst.

De vraag is nu hoe het recht van een betrokkene geïnterpreteerd moet worden. De Art29 WP

biedt ook op dit punt een zienswijze. De Werkgroep stelt dat de betrokkene dit recht niet actief

hoeft in te roepen maar ervan uit mag gaan dat dit recht geëerbiedigd wordt. In de zienswijze

van de Werkgroep impliceert artikel 22 een algemeen verbod op besluitvorming die uitsluitend

gebaseerd is op geautomatiseerde verwerking van gegevens.61 De Werkgroep vindt

ondersteuning voor deze interpretatie in Overweging 71 van de AVG waarin gesteld wordt:

“Besluitvorming op basis van een dergelijke verwerking, met inbegrip van profilering, dient

echter wel mogelijk te zijn wanneer deze uitdrukkelijk is toegestaan bij Unierecht of lidstatelijk

recht dat op de verwerkingsverantwoordelijke van toepassing is, …, of noodzakelijk voor de

sluiting of uitvoering van een overeenkomst tussen de betrokkene en een

verwerkingsverantwoordelijke, of wanneer de betrokkene zijn uitdrukkelijke toestemming heeft

gegeven.” De terminologie “dient wel mogelijk te zijn” impliceert hier dat in gevallen waar dit

niet het geval is de besluitvorming niet is toegestaan. Waar de Overweging in de aanhef e-

recruiting praktijken expliciet noemt als voorbeeld van een systeem dat gebaseerd kan zijn op

volautomatische besluitvorming geeft deze Overweging tevens aan dat het sluiten van een

overeenkomst hoort tot de mogelijke uitzonderingsgronden om een dergelijk systeem te

mogen gebruiken.

De drie uitzonderingsposities die de AVG stelt zijn een wettelijke verplichting, het sluiten of

uitvoeren van een contract of de uitdrukkelijke toestemming van de betrokkene. Van deze drie

uitzonderingsgronden zullen de eerste en de laatste in de regel niet toegepast kunnen worden.

60 Art 29 WP (2018). Guidelines on Automated individual decision-making and Profiling for the

purposes of Regulation 2016/679, WP251rev0.1, p. 21. 61 Art 29 WP (2018), p. 19. “The term “right” in the provision does not mean that Article 22(1) applies

only when actively invoked by the data subject. Article 22(1) establishes a general prohibition for decision-making based solely on automated processing. This prohibition applies whether or not the data subject takes an action regarding the processing of their personal data.”


Een wettelijke verplichting zou gevonden kunnen worden in het arbeidsrecht, met name in de

wetten rond gelijke behandeling (met name in het geval van het inzetten op voorkeursbeleid).

Het is de vraag in hoeverre dit een rol speelt bij een deels geautomatiseerde wervings- en

selectieprocedure, maar dit is zeker niet categorisch uitgesloten. Daar waar dit het geval is

dient de geautomatiseerde besluitvorming uitsluitend het realiseren van voorkeursbeleid tot

doel te hebben. Andere zaken mogen daar niet in meegenomen worden. De derde

uitzonderingsgrond, de uitdrukkelijke toestemming, is hiervoor al aan de orde gekomen. In

arbeidssituaties kan de uitdrukkelijke toestemming in de regel niet als uitzonderingsgrond

worden aangevoerd. In wervings- en selectieprocedures is de machtsbalans tussen

betrokkene en verwerkingsverantwoordelijke te ongelijk om te kunnen spreken van ‘vrijelijk’

gegeven toestemming.

Blijft over de tweede uitzonderingsgrond: het sluiten dan wel uitvoeren van een overeenkomst

(contract). De eerder aangehaalde richtlijn van de Art29 WP geeft als één van de voorbeelden

waarin automatische besluitvorming, inclusief profilering, is toegestaan het geautomatiseerd

selecteren van kandidaten in een wervings- en selectieprocedure.62 Om te kunnen komen tot

de afsluiting van een contract is het nodig kandidaten te screenen die voor zo’n contract in

aanmerking komen. Dit kan op geautomatiseerde wijze verlopen. Wel dient dan rekening te

worden gehouden met aanvullende maatregelen, waaronder de mogelijkheid van een

kandidaat om menselijke tussenkomst te eisen.63 Daarnaast moeten kandidaten geïnformeerd

worden over het inzetten van geautomatiseerde besluitvorming en over de logica waarop het

besluit tot stand komt.64 Tot slot, indien bijzondere categorieën persoonsgegevens onderdeel

van de gegevensverwerking vormen, dan kan deze uitzonderingsgrond in de regel niet

ingeroepen worden.65

De UAVG voegt aan de uitzonderingsgronden de mogelijkheid toe van algemeen belang als

grond voor het mogen toepassen van geautomatiseerde besluitvorming. Deze

uitzonderingsgrond zou een rol kunnen spelen bij het toepassen van voorkeursbeleid.

Wederom geldt dan de inperking dat de geautomatiseerde besluitvorming zich daartoe zou

moeten beperken en gegevens ook uitsluitend verwerkt mogen worden binnen de context van

dit doel.

Menselijke tussenkomst

Bij toegestane geautomatiseerde besluitvorming dient menselijke tussenkomst mogelijk te zijn

als de besluitvorming wettelijke effecten heeft of vergelijkbare andere significante effecten en

de betrokkene hier gebruik van wil maken.66

62 Art 29 WP (2018), p. 23. 63 AVG, art 22, lid 3. 64 AVG, art 14, lid 2 sub g. “het bestaan van geautomatiseerde besluitvorming, met inbegrip van de

in artikel 22, leden 1 en 4, bedoelde profilering, en, ten minste in die gevallen, nuttige informatie over de onderliggende logica, alsmede het belang en de verwachte gevolgen van die verwerking voor de betrokkene.”

65 AVG, art 22, lid 4. “De in lid 2 bedoelde besluiten worden niet gebaseerd op de in artikel 9, lid 1, bedoelde bijzondere categorieën van persoonsgegevens, tenzij artikel 9, lid 2, punt a) of g), van toepassing is en er passende maatregelen ter bescherming van de gerechtvaardigde belangen van de betrokkene zijn getroffen.” Punt a betreft uitdrukkelijke toestemming. Punt g betreft verwerking voor statistische, wetenschappelijk of historisch onderzoek. Punt a is in de regel problematische voor e-recruiting practices, punt g is niet van toepassing.

66 AVG, art 22, lid 3


Deze menselijke tussenkomst dient aan een aantal voorwaarden te voldoen: de tussenkomst

moet betekenisvol zijn, hij dient te worden uitgevoerd door een persoon met de juiste

competenties en autoriteit om het besluit eventueel aan te passen en de persoon moet alle

relevante gegevens in zijn/haar besluitvorming betrekken.67

Op grond van de redenering in de recente richtlijn van de Art 29 WP over geautomatiseerde

besluitvorming kan geconcludeerd worden dat ‘e-recruiting practices’ gezien moeten worden

als verwerkingsprocessen die significante effecten voor de betrokkenen kunnen hebben.68

Noodzaak voor uitvoeren van data protection impact assessment

De AVG stelt dat gegevensverwerkingen die een hoog risico voor betrokkenen in kunnen

houden, vooraf moeten worden gegaan door een gegevensbeschermingseffectbeoordeling

(vanaf hier data protection impact assessment of DPIA genoemd).69 Eén van de gronden die

maken dat er sprake is van een hoog risico is de aanwezigheid van een “systematische en

uitgebreide beoordeling van persoonlijke aspecten van natuurlijke personen, die is gebaseerd

op geautomatiseerde verwerking, waaronder profilering, en waarop besluiten worden

gebaseerd waaraan voor de natuurlijke persoon rechtsgevolgen zijn verbonden of die de

natuurlijke persoon op vergelijkbare wijze wezenlijk treffen …”.70 De Art 29 WP heeft een

uitgebreider overzicht gepresenteerd van situaties die kunnen resulteren in een hoog risico

voor de betrokkenen.71 In dit overzicht wordt onder meer geautomatiseerde besluitvorming

met wettelijke of vergelijkbare significante andere effecten opgevoerd als overweging om een

DPIA uit te voeren.72 In combinatie met een ander genoemd risico, evaluatie of scoring van

individuen, inclusief profilering en voorspelling, voldoen e-recruiting practices aan het

uitgangspunt dat, indien op twee aspecten van de door Art29WP genoemde risico’s positief

gescoord wordt, een DPIA uitgevoerd dient te worden.

Een DPIA moet aan een aantal voorwaarden voldoen. Naast de inschatting van het risico dient

ook aangegeven te worden welke mitigerende maatregelen getroffen kunnen worden om het

risico in te dammen. WP29 heeft nog geen standaard template voor de uitvoering van een

DPIA beschikbaar gesteld. Wel heeft de Rijksoverheid een checklist beschikbaar gesteld.73

Mocht het uiteindelijk niet mogelijk blijken de risico’s dusdanig te mitigeren dat zij voldoende

ingeperkt kunnen worden dan dient een voorafgaande raadpleging bij de toezichthouder te

worden aangevraagd.74 De toezichthouder oordeelt vervolgens over het al dan niet toelaatbaar

zijn van de betreffende gegevensverwerking en deelt dit binnen specifieke termijnen mee aan

de verwerkingsverantwoordelijke.75

67 Art 29 WP (2018), p. 21. 68 E-recruiting practices worden opgevoerd in de paragraaf die handelt over de uitzonderingen die

zijn toegestaan op het verbod van geautomatiseerde besluitvorming terwijl sprake is van significante effecten.

69 AVG, art 35. 70 AVG, art 35, lid 3. 71 Art 29 WP, WP248rev01, 2017. 72 Art 29 WP, 2017, p. 9. 73 Zie https://www.avghelpdeskzorg.nl/documenten/brochures/2018/10/4/invulformat-rijksmodel-dpia

(geraadpleegd 2 oktober 2019). Het CIP (centrum voor Informatiebeveiliging en Privacybescherming) heeft eveneens een handzame benadering voor de uitvoering van een DPIA gepubliceerd. Zie https://www.cip-overheid.nl/media/1338/20190807-pia-template.pdf (geraadpleegd 2 oktober 2019).

74 AVG, art. 36, lid 1. 75 AVG, art. 36, lid 2.


Conclusies

Op basis van de hierboven gepresenteerde uiteenzetting van de wettelijke kaders rond

wervings- en selectieprocessen in het licht van de inzet van digitale middelen kunnen we de

volgende conclusies trekken:

1. Een belangrijk nieuw wettelijke kader voor de verwerking van persoonsgegevens in het

licht van de inzet van digitale middelen bij werving en selectie wordt gevormd door de

Algemene Verordening Gegevenswerking. Dit houdt in dat de Autoriteit

Persoonsgegevens een rol zal gaan spelen in het uitoefenen van toezicht op de wijze

waarop digitale middelen bij werving en selectie worden ingezet.

2. Andere wettelijke kaders vanuit het arbeidsrecht zijn onverminderd van toepassing. De

vereisten uit bijvoorbeeld de gelijke behandelingswetgeving sluiten goed aan op de eisen

uit de AVG. Mogelijk zijn de bepalingen rondom indirecte discriminatie aanvullend op de

AVG. Ook de mogelijkheid om onder voorwaarden (zoals die zijn vastgelegd in de gelijke

behandelingswetgeving) voorkeursbeleid (een uitzondering op gelijke behandeling) te

voeren is een mogelijke aanvulling.

3. Op grond van hun historisch belang zal in vervolgonderzoek de wijze waarop beide

wettelijke kaders elkaar kunnen versterken nader verkend moeten worden, met name

vanuit het perspectief van de verschillende mogelijkheden van toezicht die beide wettelijke

kaders oproepen.

4. Binnen het arbeidsrecht worden de volgende gegevens van belang geacht in het kader

van discriminatie: ras/etnische achtergrond, nationaliteit, religieuze en

levensbeschouwelijke overtuigingen, geslacht, gezondheid, seksuele gerichtheid,

burgerlijke staat. Daarnaast zijn er wetten om onderscheid op basis van leeftijd, handicap

of chronische ziekte, duur en bepaaldheid van de arbeidsrelatie tegen te gaan. Een aantal

van deze gegevens valt onder de bijzondere categorieën van persoonsgegevens die de

AVG kent. Geslacht, leeftijd, nationaliteit en burgerlijke staat vallen buiten de bijzondere

categorieën van persoonsgegevens evenals duur en bepaaldheid van de arbeidsrelatie.

De andere genoemde gegevens vallen er binnen.

5. Voordat persoonsgegevens verwerkt mogen worden dient er een gerechtvaardigd doel en

een legitieme grondslag te zijn. Voor de persoonsgegevens die tot de bijzondere

categorieën van gegevens behoren geldt daarnaast een “Nee, tenzij …” regime. Deze

mogen alleen verwerkt worden als een uitzonderingsgrond kan worden aangevoerd.

6. De grondslag ‘Toestemming’ kan in de regel niet ingeroepen worden als grondslag voor

gegevensverwerking binnen de arbeidsrelatie, waaronder wervings- en

selectieprocessen. De machtsongelijkheid tussen de betrokkene en de

verwerkingsverantwoordelijke impliceert dat de toestemming niet vrijelijk gegeven kan

worden.

7. De werkgever heeft een gerechtvaardigd belang in de verwerking van persoonsgegevens

ten behoeve van werving en selectie. Dit belang kan de grondslag vormen van de

verwerking van persoonsgegevens die niet tot de bijzondere categorieën van

persoonsgegevens behoren. Indien er sprake is van bijzondere eisen aan de vacature kan

deze grondslag ook gebruikt worden voor de verwerking van bijzondere categorieën van

gegevens (er moet dan nog steeds een uitzondering ingeroepen worden anders is het

verbod van artikel 9 nog steeds geldig). Ook waar sprake is van een wettelijke verplichting

kunnen deze gegevens verwerkt worden.

Tot slot kunnen gegevens die nadrukkelijk (‘kennelijk’) door de betrokkene openbaar zijn

gemaakt verwerkt worden.


8. Voor werving en selectie kan ook gebruik worden gemaakt van de grondslag die het

toestaat om gegevens te verwerken voor het sluiten dan wel het uitvoeren van een

contract. Voordeel hiervan is dat het dan ook is toegestaan om geautomatiseerde

besluiten te nemen, tenzij sprake is van de verwerking van bijzondere categorieën van

gegevens. In de praktijk zal dit laatste vermoedelijk snel aan de orde zijn. In alle gevallen

heeft de betrokkene er recht op om geïnformeerd te worden over de toepassing van

geautomatiseerde besluitvorming (inclusief profilering) en over de gehanteerde logica.

9. Het verwerken van persoonsgegevens die afkomstig zijn van social media en internet is

alleen dan toegestaan indien de verzamelde gegevens nadrukkelijk openbaar zijn

gemaakt door de betrokkene, de gegevens relevant zijn voor de wervings- en

selectieprocedure, de sollicitant geïnformeerd wordt over de gegevensverwerking en de

sollicitant ook de mogelijkheid heeft zijn/haar rechten (inzagerecht, correctierecht, recht

van bezwaar tegen verwerking) naar behoren uit te oefenen.

10. De Sollicitatiecode van de NVP lijkt in strijd met de AVG. Er is geen grond in de AVG te

vinden die stelt dat een sollicitant niet geïnformeerd zou moeten worden over de

verzamelde gegevens; gegevens die niet relevant zijn voor de wervings- en

selectieprocedure mogen niet verzameld worden omdat daar geen gerechtvaardigd doel

en legitieme grondslag voor te geven zijn; daarnaast zou de Sollicitatiecode aangevuld

kunnen worden met de verplichting om een sollicitant op zijn/haar rechten te wijzen.

11. Het is zeer de vraag of het mogelijk is om digitale middelen in te zetten die leiden tot

volledig geautomatiseerde besluitvorming, waaronder profilering. Dit lijkt alleen mogelijk

indien er geen bijzondere categorieën gegevens worden verwerkt. In hoeverre dit in de

praktijk inderdaad het geval is (geen directe verwerking van bijzondere categorieën van

persoonsgegevens maar ook geen indirecte verwerking, dat wil zeggen dat door de

verwerking geen nieuwe, gevoelige, persoonsgegevens ontstaan) is op voorhand moeilijk

aan te geven.

12. De uitvoering van een Data Protection Impact Assessment is vereist indien sprake is van

geautomatiseerde besluitvorming en van de verwerking van bijzondere categorieën van

persoonsgegevens. Dit zal in de praktijk veelal het geval zijn. De DPIA dient om zicht te

geven op de risico’s en om mitigerende maatregelen te benoemen en ook in te voeren.

13. Indien sprake is van menselijke tussenkomst, dan dient deze betekenisvol te zijn, dat wil

zeggen dat de persoon in kwestie de competentie en de autoriteit moet hebben om te

oordelen over het besluit en het besluit aan te passen en in het oordeel alle relevante

gegevens mee moet wegen.


C Bijlage: Benelux Recruitment Tech Landscape 202076

76 Bron: https://www.recruitmenttech.nl/landscape.

Healthy Living

Schipholweg 77-89

2316 ZL Leiden

Postbus 3005

2301 DA Leiden

www.tno.nl

T +31 88 866 90 00

[email protected]

Handelsregisternummer 27376655

© 2019 TNO

0

TNO.NL

DIGITALE ARBEIDSMARKTDISCRIMINATIE - Rijksoverheid

Documents

Transcript of DIGITALE ARBEIDSMARKTDISCRIMINATIE - Rijksoverheid