Artificial Intelligence Impact Assessment: het antwoord op losgeslagen AI-algoritmes

De inzet van algoritmes, brengt in de maatschappelijke discussie over artificial intelligence (AI) regelmatig de angst naar boven voor oncontroleerbare AI-algoritmes. ECP|Platform voor de InformatieSamenleving roept op hoogoplopende discussies hierover te stoppen en te focussen op de slimme kansen die deze technologie biedt voor onze samenleving en economie.

De AI Impact Assessment is daarvoor de oplossing. Deze werd tijdens het ECP Jaarcongres overhandigd aan staatssecretaris van Economische Zaken en Klimaat, mevrouw Mona Keijzer.

“Het debat rondom AI maakt emoties en ethische discussies los”, zegt Daniël Frijters van ECP|Platform voor de InformatieSamenleving. “Dat is gebruikelijk bij ICT-toepassingen, denk aan discussies rondom de slimme meter en de OV-chipkaart, maar bij AI lopen de gemoederen extra hoog op.” Dat heeft alles te maken met het zelflerend vermogen van slimme algoritmes. Zijn die nog te controleren of gaan zij ons overheersen? Beoordelen ze situaties vanuit menselijke ethische en juridische principes, of gaan ze hun eigen gang en leren ze zichzelf van alles aan?

Automatische discriminatie

De Artificial Intelligence Impact Assessment (AIIA, hiernaast te downloaden) helpt bedrijven artificial intelligence verantwoord in te zetten, nu slimme algoritmes steeds vaker taken van mensen overnemen. Aan de hand van een stappenplan, bestaande uit acht stappen, maken bedrijven inzichtelijk welke juridische en ethische normen een rol spelen bij de ontwikkeling en inzet van AI-toepassingen, en welke afwegingen ten grondslag liggen aan keuzes en besluiten. “Neem een AI-selectietool voor het screenen van sollicitanten”, geeft Frijters als voorbeeld. “Het algoritme kan op basis van historische data leren welke kandidaten geschikt zijn voor een leiderschapsfunctie. Als niet wordt gekeken naar de betrouwbaarheid van de data, dan zullen vooral mannelijke kandidaten worden geselecteerd, omdat de selectietool op basis van de gebruikte historische data heeft geleerd dat vrouwen minder leiderschapsfuncties bekleden. Vrouwelijke kandidaten worden dus onbewust door het algoritme gediscrimineerd. Een van de stappen in de AIIA is dan ook het controleren van de betrouwbaarheid van de databron.” Een ander voorbeeld is het automatisch beoordelen of wetgeving op iemand van toepassing is. Dit kan misschien wel sneller en beter met een slim algoritme, maar een ambtenaar van vlees en bloed heeft de ruimte en de plicht om vanuit een fundamentele waarde als ‘menswaardigheid’ te handelen en individuele afwijkende situaties te beoordelen. In de AIIA worden dergelijke ethische en juridische vraagstukken getackeld, zodat het algoritme en de ambtenaar volgens menselijke waarden kunnen samenwerken.”

Spookverhalen

De AIIA brengt rust en balans in de discussie tussen doemdenkers en vooruitganggelovigen. Dankzij dit stappenplan wegen bedrijven ethische, juridische en economische factoren tegen elkaar af. Op basis daarvan passen ze bijvoorbeeld hun algoritmen of toepassing van artificial intelligence aan, of zorgen ze ervoor dat mensen toch nog persoonlijk contact kunnen opnemen over geautomatiseerde besluiten. “Voorheen was AI-technologie nauwelijks transparant en ethische en juridische keuzes werden niet expliciet gemaakt”, aldus Frijters. “Daar krijg je allerlei wildwest- en spookverhalen van. De AIIA voorkomt dat. Burgers kunnen er op vertrouwen dat bedrijven die de AIIA uitvoeren, verantwoord omgaan met artificial intelligence en dat zij de gedragscode Artificial Intelligence volgen die onderdeel uitmaakt van de impact assessment.”

Slimme innovaties

Nu de rust weer keert in de maatschappelijke discussie, kunnen bedrijven focussen op slimme kansen voor de samenleving en de economie, nationaal en internationaal. Dit is met name belangrijk omdat er een eerste aanzet ligt voor een Nederlandse AI-strategie, waarvan de eerste contouren op 6 november werden gepubliceerd. Daarnaast bieden Nederlandse innovaties tegenwicht tegen internationale ontwikkelingen op het gebied van artificial intelligence. Die innovaties vinden een goede en vruchtbare plek in onze samenleving, als de drie pijlers onder onze informatiesamenleving in balans zijn: nieuwe technologieën, maatschappelijke domeinen en digitale randvoorwaarden. Hoe deze pijlers elkaar beïnvloeden en onze samenleving in beweging brengen, valt te lezen in de ECP-visie die eveneens op het ECP Jaarcongres werd gepresenteerd.

Een groot aantal deskundigen en diverse ministeries hebben meegewerkt aan de totstandkoming van de AI Impact Assessment.

De lancering van de Artificial Intelligence Impact Assessment is een vervolg op het whitepaper dat eerder dit jaar is verschenen. Daarin keert ECP zich tegen het doemdenken over AI, benoemt maatschappelijke en ethische risico’s en geeft enkele tips hoe daarmee om te gaan. De AIIA is veel uitgebreider en gaat veel verder.

21 november 2018

Nieuwsbrief

Schrijf u in voor onze nieuwsbrief en blijf op de hoogte van het laatste nieuws over dutch digital delta