Delen
20 mei 2022 • 5 minuten lezen
Terugblik congres ‘Hey Siri, vind een geschikte kandidaat’
Er waren zo’n 150 mensen aanwezig op het geslaagde WOMEN Inc. congres ‘Hey Siri, vind een geschikte kandidaat’ op 18 mei. Onder leiding van Raisa Ghazi gingen HR-professionals, werkgevers, beleidsmakers, mensen uit het onderwijs, juristen en tech specialisten met elkaar in gesprek. Uit onderzoek van WOMEN Inc. blijkt dat de inzet van artificial intelligence (AI) nu nog niet bijdraagt aan gelijke kansen op de arbeidsmarkt. Het doel van de dag was om gezamenlijk tot een actielijst te komen om hier verandering in te brengen.
Aan het eind van de dag is de top 10 principes voor verantwoorde AI voor gelijke kansen op de arbeidsmarkt gepresenteerd. Alle deelnemers van het congres konden meedenken over de prioritering van deze principes.
DIT ZIJN DE TOP 10 PRINCIPES OM MEE AAN DE SLAG TE GAAN
–
Het belangrijkste principe is volgens de zaal een multistakeholders aanpak. Het is duidelijk dat de verschillende stakeholders elkaar nodig hebben en zouden moeten samenwerken. Tijdens het congres hebben afgevaardigden van de 13 organisaties op de onderstaande foto toegezegd dat zij dit willen. WOMEN Inc. ziet het congres als startsein om met elkaar aan de slag te gaan. Het is duidelijk dat we iedereens visie, expertise en kunde nodig hebben. Wil jij hieraan bijdragen? Neem dan contact op met Joline Heusinkveld via joline@womeninc.nl.
Amber Kegel (Arbeidsinspectie), Christiaan Duijst (College voor de Rechten van de Mens), Sennay Ghebreab (Civic AI Lab), Fadoa Schurer (Multi Medium), Tess Schoneveld (VHTO), Mildo van Staden (Ministerie BZK), Marjan Hammersma (Ministerie OCW), Emma Lok (WOMEN Inc.), Rina Joosten-Rabau (Seedlink), David Graus (Randstad), Jon Verriet (UNESCO), Djurre Das (Rathenau Instituut), Siri Beerends, Janneke Oostrom (Nederlands Instituut van Psychologen), Su Yin Timp (NL AI Coalitie)
Keynotes
De eerste spreker van de dag was is universitair hoofddocent sociaal-intelligente AI aan de Universiteit van Amsterdam en oprichter en directeur van Civic AI Lab Sennay Ghebreab. Hij concludeerde dat er bij de ontwikkeling van AI onvoldoende rekening is gehouden met diversiteit. Hij vreest dat als we zo doorgaan, AI bestaande ongelijkheden en machtsverhoudingen versterkt. Maar Ghebreab benadrukte dat er ook een andere realiteit mogelijk is als we in staat zijn om AI te ontwikkelen met menselijke waarden als doel. De belangrijkste boodschap die hij iedereen mee wilde geven was dat eerlijke en inclusieve AI niet alleen technische uitdaging is, maar vooral ook een sociale uitdaging die we gezamenlijk moeten aanpakken.
DOWNLOAD HIER DE PRESENTATIE VAN SENNAY GHEBREAB
Hierna sprak professor Lokke Moerel, Senior Of Counsel bij het internationale advocatenkantoor Morrison & Foerster, hoogleraar Global ICT Law aan Tilburg University en lid van de nationale Cyber Security Raad. Moerel maakte een parallel tussen AI en de eerste auto die geen goede remmen had. Voor veilig gebruik van de auto hebben we tal van maatregelen getroffen (van wegen tot wetgeving) maar bij AI doen we dat nog niet: “AI is echt de eerste auto zonder remmen, die we überhaupt nog moeten fixen.” Volgens Moerel zijn er valkuilen bij de inzet van AI in elke stap van werving en selectie. Het probleem is dat die tools niet transparant zijn in hoe ze werken en daarom ook niet te controleren. “Terwijl de kans dat ze vooroordelen in zich hebben groot is.” Maar ze benadrukte dat er ook veel tools zijn die ingezet kunnen worden om juist meer gelijkheid en inclusie te creëren. Een mooi voorbeeld is een chatbot die Randstad gebruikt om skills uit te vragen bij sollicitanten, om zo betere, representatieve data te verzamelen. “Zullen we daarmee gaan lopen in plaats van rennen?” vroeg ze het publiek.
Speech secretaris-generaal Hammersma
Namens het ministerie van Onderwijs, Cultuur en Wetenschap liet secretaris-generaal Hammersma weten dat minister als coördinerend minister op het gebied van emancipatie ook diens rol pakt. Het komende najaar gaat het ministerie verder om de gesprekken over AI, gender en inclusieve werving en selectie te faciliteren. Zo blijven ze het gesprek aanjagen over algoritmes en de thema’s arbeidsmarkt, lhbtiq+ gelijkheid en onderwijs.
Ed & Algje
Naast de inspirerende keynotes en de speech van de secretaris-generaal was er tijd voor een verrassende onderbreking in de vorm van een cultureel intermezzo door de algoritme mascottes Ed & Algje. Tijdens een interactieve performance maakte een vrijwilliger, een data developer uit de zaal, met stoffen voorwerpen een zelfportret. Door haar te bevragen over haar ervaringen met solliciteren, bias en inclusiviteit, probeerde Ed van Algje een inclusiever algoritme te maken.
Subsessies
In de co-creatiesessie van Fadoa Schurer (Multi Medium) gingen bezoekers aan de slag met het ontwerpen van verantwoorde AI. Door hier zelf over na te denken bleek dat een mutlistakeholder aanpak cruciaal is. De sessie legde bloot hoe moeilijk het is om inclusieve AI te ontwerpen en hoe makkelijk het onbedoeld of onbewust mis kan gaan omdat alle mensen kijken met hun eigen bril (ervaring, kennis, achtergrond etc.).
Janneke Oostrom (VU Amsterdam) en Jeroen Meliëzer (Nederlandse Instituut van Psychologen (NIP)) bespraken in hun sessie dat psychologen bij de ontwikkeling van algoritmes moeten worden betrokken omdat het gaat om menselijk gedrag. Psychologen kunnen helpen bepalen of een algoritme wel meet wat je wilt meten, of dit zonder bias gebeurt en of er bewijs is dat onderbouwt waarom je bepaalde voorspellers gebruikt. Binnenkort verschijnt een rapport van het NIP met meer aanbevelingen.
De inzet van algoritmes door werkgevers is gebonden aan wetgeving. Christiaan Duijst (College voor de Rechten van de Mens), Amber Kegel en Bram den Hartog (Arbeidsinspectie) praatten bezoekers hierover bij. Lastig hierbij is dat het voor individuen slecht te achterhalen is of zij zijn gediscrimineerd door een systeem. Daarom is nieuwe wetgeving meer gericht op preventie van uitsluiting bij de ontwikkeling en inzet van systemen. Zo volgen er uit het concept wetsvoorstel “Gelijke Kansen bij Werving en Selectie” maatregelen voor werkgevers zoals een vergewisplicht en krijgt de Arbeidsinspectie handhavende bevoegdheden en kunnen zij een boete opleggen voor het niet naleven wet, die ook openbaar gemaakt wordt. Deze wet is nog in ontwikkeling en treedt de eerstvolgende jaren nog niet in werking.
DE PRESENTATIE VAN CHRISTIAAN DUIJST
Er kan en mag ook de vraag worden gesteld: wat willen we? Dit werd besproken in de subsessie van cultuursocioloog Siri Beerends en onderzoeker bij het Rathenau Instituut Djurre Das. Er werden problemen met AI blootgelegd, zo kan het systeem intenties van woorden niet meten maar alleen wat er letterlijk wordt gezegd of geschreven. Het is volgens de sprekers van belang dat menselijke en kunstmatige intelligentie elkaar aanvullen. Mensen brengen bijvoorbeeld empathie en creativiteit mee, terwijl AI grote hoeveelheden data op een snelle en efficiënte manier kan verwerken, categoriseren en opslaan.
DE PRESENTATIE VAN SIRI BEERENDS
Stakeholdersdebat
Aan de hand van de tien principes gingen vijf experts uit verschillende velden met elkaar in gesprek over de weg naar verantwoorde algoritmes die bijdragen aan gelijke kansen. Rina Joosten-Rabau (Seedlink) zou meer experimenteerruimte voor AI vooropstellen en David Graus (Randstad) legt uit dat je AI systemen niet alleen bouwt maar meerdere perspectieven nodig hebt. De rest van het panel is het met hem eens dat een multi stakeholder analyse van belang is. Hans de Zwart (Hogeschool van Amsterdam) heeft een tool ontwikkeld die je helpt na te denken over het zorgvuldig implementeren van AI. De Zwart ziet een rol voor de overheid zodat het onderwijs dat kan volgen: “Ik heb lange onderwijscarrière, ik ben wel genezen van het idee dat je met onderwijs de maatschappij verbetert. Je moet je realiseren dat je in het onderwijs onderwijst wat de maatschappij belangrijk vindt. [.. ] Als je wet en regelgeving hebt gaan er dingen veranderen en verschuiven.” Ook Mildo van Staden (ministerie BZK) vindt wet en regelgeving belangrijk maar die moeten wel toepasbaar zijn in context werving en selectie. Cultuursocioloog Siri Beerends waarschuwt dat transparantie niet moet uitlopen op een systeem van certificering dat greenwashing in de hand speelt. Zij stelt ook dat je inclusiviteit niet van bovenaf kunt afdwingen maar het het door alle lagen moet gebeuren, ook van onderaf.
Emma Lok (directeur strategie en communicatie WOMEN Inc.) besluit de dag met de woorden:
“We moeten ons verenigen, alle kennis en kundes moeten samenkomen om met dit lijstje aan de slag te gaan. Het staat nu mooi op een slide maar als we er niet samen mee aan de slag gaan, komen we nergens”