Dat stelt ons voor de belangrijke uitdaging om de toepassing van AI op een goede manier in onze samenleving te begeleiden. De werkgroep Mensgerichte AI
heeft ethiek daarom als een van haar speerpunten. Een interview met
Daniël Tijink (MT-lid en projectleider ethiek bij ECP) en Sophie Kuijt
(CTO voor IBM Consulting Benelux), die binnen het kernteam
verantwoordelijk zijn voor het focusgebied ‘ethiek’.
“We moeten af van het idee dat je aan de ene kant techniek hebt en de mens aan de andere kant. Als het om technologische ontwikkelingen gaat, hebben we al snel de neiging om in doemscenario’s te denken. Dat komt natuurlijk ook door de vele films waarin robots en andere geavanceerde technologie zich tegen de mensheid keren. Maar in werkelijkheid is er altijd een wisselwerking tussen mensen en technologie”, benadrukt Daniël.
Technologie verandert ons
“De mens heeft invloed op de technologische ontwikkeling en vervolgens heeft die technologie weer invloed op de ontwikkeling van de mens”, vervolgt hij. “Dat zag je bijvoorbeeld met de komst en doorontwikkeling van de mobiele telefoon. We hebben hem natuurlijk gemaakt, maar hij heeft ons ook gemaakt. Onze manier van communiceren, de weg vinden, daten, nieuws tot ons nemen: dat zijn allemaal dingen die door de komst van de mobiele telefoon volledig zijn veranderd. En bij AI gaat het om een technologie die voor nog veel grotere veranderingen zorgt.”
Constructieve sessies
“Gezien de continue wisselwerking tussen mens en technologie is het lastig om in het algemeen een rijtje met ethische regels op te stellen die altijd en overal gelden. Voor een ethische toepassing moet je namelijk niet alleen naar het ontwerp ervan kijken, maar ook naar de context waarin die technologie wordt toegepast en naar de manier waarop de gebruikers met die technologie omgaan. Wij pleiten daarom ook voor een werkwijze waarbij alle betrokken partijen deelnemen aan sessies, waarin ze het samen kunnen hebben over de ethische aspecten van een specifiek AI-project. Dus niet alleen de AI-ontwikkelaars en hun opdrachtgevers, maar bijvoorbeeld ook de professionals die er mee moeten werken, de beleidsmakers, en gebruikers en burgers die met die technologie te maken krijgen. Het gaat om constructieve sessies waarbij de aanwezigen niet hun oordeel geven over een toepassing van AI, maar waarin ze samen op zoek gaan naar een manier om die technologie op basis van de verschillende relevante waarden van de deelnemers te begeleiden en er zo voor te zorgen dat het ook echt ethisch verantwoord is om zo’n AI-oplossing toe te passen.”
Nadruk op participatie
Het was professor Peter-Paul Verbeek die de term begeleidingsethiek en het daarbij behorende gedachtegoed introduceerde. Samen met deze techniekfilosoof heeft ECP, samen met vele betrokken partijen, de ‘aanpak begeleidingsethiek’ ontwikkeld, die zowel bij AI-toepassingen als bij andere nieuwe technologieën is toegepast. Daarbij ging het elke keer om concrete projecten en lag er veel nadruk op participatie.
Een praktijkvoorbeeld
Eerder dit jaar organiseerde de NL AIC een sessie begeleidingsethiek binnen het toepassingsgebied Gezondheid en Zorg. Op initiatief van de Patiëntenfederatie spraken de aanwezige zorgprofessionals, technici en patiënten over U-Prevent, een interactief rekenmodel dat specialisten helpt om te bepalen welke medicijnen voor hart- en vaatziekten voor welke patiënten het beste werken. Daarbij ging het specifiek over de gewenste waarden. Wat kunnen de effecten van U-Prevent zijn op de kwaliteit van de zorg, de autonomie van de patiënt en de kwaliteit van leven? Al pratende kwamen de deelnemers toen al snel tot interessante inzichten en een beter wederzijds begrip.
Platform
“Vanuit de werkgroep Mensgerichte AI maken we nu de volgende stap”, aldus Daniël: “we richten een platform op met als missie: ethisch verantwoorde vormgeving en gebruik van AI-toepassingen in de Nederlandse samenleving. Het platform verbindt veel verschillende partijen met elkaar, zoals bedrijven, overheden, kennisinstituten en maatschappelijke organisaties. En dat proces zal nog een extra stimulans krijgen als straks het officiële startschot klinkt voor de eerste ELSA Labs. Het platform gaat ook daar op het vlak van ethiek een belangrijke ondersteunende rol spelen. Een learning community die zich dankzij een brede samenwerking en concrete praktijkcases steeds verder ontwikkelt: dat is het idee.
Praktische wijsheid
Het platform gaat zich onder andere op ‘praktische wijsheid’ richten, een term geleend van Aristoteles. Veel ethische kennis zit namelijk daar waar het gebeurt. Bij concrete toepassingen en bij de verschillende partijen en personen die daarbij betrokken zijn. We hebben gemerkt dat het met de aanpak begeleidingsethiek heel goed lukt om de voor een toepassing benodigde kennis naar boven te halen en vervolgens ook tot handelingsopties te komen. In het nieuwe platform gaan we die uitkomsten analyseren. Welke waarden spelen vaak een rol bij AI? Welke spanningen zijn er? Welke positieve en negatieve effecten zien we? En vooral: welke suggesties voor oplossingen komen er los en welke lenen zich ook daadwerkelijk voor een verdere uitwerking? Vervolgens ontstaan er bijna vanzelf weer nieuwe vragen. Want wie gaan er met die uitwerking aan de slag? En hoe zorgen zij er stap voor stap voor dat een AI-toepassing inderdaad op een ethische manier kan worden ingezet? Dat alles zal ook inzichten opleveren op het vlak van draagvlak, commitment en de maatschappelijke impact die een AI-toepassing heeft.”
Ethiek integreren in organisaties en netwerken
Ethiek op een vanzelfsprekende manier integreren binnen organisaties en netwerken, dat wordt een tweede belangrijke activiteit van het nieuwe platform. Niet de klassieke commissie die een oordeel velt, maar een brede betrokkenheid van veel partijen, gedurende het hele proces, die samen de gewenste richting bepalen. Momenteel zijn daar ook al veel partijen serieus mee bezig: niet alleen publieke partijen als gemeentes en provincies, maar ook organisaties als de NS, de Politie en IBM delen hun kennis.
Delen van ervaringen
In de aanloop naar de oprichting van het platform heeft Sophie Kuijt al met veel partijen gesproken over het integreren van ethiek binnen organisaties en netwerken. Daarbij brengt ze waardevolle praktijkervaring vanuit IBM Nederland en Benelux mee. “Wij gaan als IBM verder dan alleen het ontwikkelen van AI-technologie. Zo bieden we klanten consultancy op dat vlak en kunnen we ook de implementatie van verschillende AI-toepassingen voor ze doen. Bij dat alles behoort het begeleiden van ethische vragen inmiddels tot de kern van hoe we met AI werken. En niet alleen in de ontwikkelingsfase, maar gedurende de gehele lifecycle van de toepassing”, licht Sophie toe. “We benaderen dit vanuit drie perspectieven: Design, Technologie en Governance. De kernwaarden van een organisatie worden vertaald naar principes rond data- eigenaarschap, uitlegbaarheid, transparantie, fairness en robuustheid. Vervolgens gebruiken we de drie perspectieven, dus Design, inzet van Technologie en Governance, om de principes ook concreet in de AI-toepassing te verankeren. Ook als een AI-toepassing ‘live’ is, kun je de toepassing monitoren en indien nodig aanpassen. Die ervaringen leiden weer tot nieuwe perspectieven. En die opgedane kennis op het ethische vlak delen we vervolgens weer binnen het platform.”
Platform voor ethische ondersteuning
Naast de focus op ‘praktische wijsheid’ en ‘ethiek in organisaties en netwerken’ wil de werkgroep zich met het platform in ieder geval ook nog op twee andere activiteiten richten: de ontwikkeling van enkele krachtige ondersteunende methodes en (inter)nationale uitwisseling. Daarbij zien Sophie en Daniël dat er binnen het platform thematische communities ontstaan die met deze speerpunten aan de slag gaan en die elkaar weer verrijken. “En dat moedigen we uiteraard aan. Het is onze ambitie een plek te zijn waar we met veel partijen samenwerken en zo in Nederland stap voor stap verder komen op het gebied van ethische AI. We denken dat ons platform een startpunt kan zijn voor ethische ondersteuning op dat vlak, waarbij we dat onderwerp in Nederland op een zo praktisch mogelijke manier naar een hoger niveau willen tillen. En wie weet: wellicht wordt onze aanpak ook internationaal opgepikt. Dat zou mooi zijn, want het gaat om een zeer belangrijk issue dat wereldwijd speelt.”
Interesse?
Meer weten over Mensgerichte AI? Meedoen met het platform ethiek? Meld u dan bij Daniël of Sophie via Edwin Borst.
--