'We hebben de opdracht kunstmatige intelligentie verantwoord toe te passen'

Kunstmatige intelligentie heeft de laatste tien jaar een stormachtige groei doorgemaakt en is alom tegenwoordig. Denk bijvoorbeeld aan robotica, chatbots, machine learning en deepfakes. Hoe kunnen bedrijven, organisaties en overheid Artificial Intelligence (AI) op een verantwoorde en menselijke manier inzetten? Lector dr. Stefan Leijnen van Hogeschool Utrecht ging hierop in tijdens zijn openbare les van 6 december.

foto gemaakt door Seth Carnill
Bron: © 2021 Seth Carnill

Voor de komst van kunstmatige intelligentie bouwden ontwerpers over het algemeen ICT-systemen die ze zelf volledig konden begrijpen. Maar dat is de laatste jaren veranderd, constateert lector dr. Stefan Leijnen: “AI-systemen waarvoor zelflerende technieken worden ingezet, kunnen zo ingewikkeld worden dat mensen de onderliggende logica niet langer kunnen volgen. Daardoor zijn ze minder voorspelbaar en beheersbaar. In de loop van de tijd leren ze ook nog eens bij, wat het nog lastiger maakt. De kracht van AI en machine learning –voorspellingen doen met complexe modellen – is daarmee ook een zwakte. Daarom is het belangrijk dat we onderzoeken hoe bedrijven, overheid en organisaties AI op een verantwoorde manier en met menselijke maat kunnen inzetten. Want AI is geen hype, maar een nieuwe systeemtechnologie, zoals elektriciteit en de computer.”

Hoe kan ik dit systeem vertrouwen?

Veel vragen in het digitale domein kun je volgens Stefan Leijnen terugbrengen tot één kernvraag: hoe kan ik dit systeem vertrouwen? “Het kan helpen als mensen een systeem begrijpen, en als ze de werking, doelen en opbrengsten van het systeem doorzien. Ook de mate waarin je als mens kunt ingrijpen in een systeem helpt om er vertrouwen in te krijgen. Voorbeelden zijn een menselijke piloot die de automatische piloot van een vliegtuig kan overrulen, of een informatiesysteem dat huisartsen op een transparante manier adviseert in plaats van zelfstandig besluiten neemt. We stellen daarom menselijke eigenschappen centraal in ons onderzoek naar de praktische implementatie van AI: creativiteit, autonomie, begrip, gevoel en ethiek. Want juist daar liggen de sociaal-maatschappelijke uitdagingen die bij de doorontwikkeling en toepassing van de AI-technologie ontstaan.”

"AI is niet per se bedreigend, en het risico bestaat dat we juist te veel focussen op de gevaren en daardoor niet investeren in AI. Juist dan kan het misgaan."

Lector AI Stefan Leijnen

Mensgerichte technologie

“We kunnen heel veel mooie dingen doen met AI, zoals op maat gesneden diagnoses en behandelingen in de zorg”, vervolgt Stefan Leijnen. “AI is niet per se bedreigend, en het risico bestaat dat we juist te veel focussen op de gevaren en daardoor niet investeren in AI. Juist dan kan het misgaan. We hebben gezien dat de markt goed kan innoveren, maar ook dat we de ontwikkelingen die de samenleving aangaan niet kunnen overlaten aan de markt alleen. Voor ons lectoraat is het spanningsveld tussen publieke waarden en de mogelijkheden die AI-technologie biedt het startpunt van een creatieve zoektocht naar betere technologie. Naar innovaties die zorgdragen voor de toekomst, die op verstandige manieren samenwerken met mensen en verantwoord handelen.”

Europa is bezig met een inhaalslag

“China en de Verenigde Staten lopen voorop als je kijkt naar de hoogte van de investeringen in AI. Maar Europa is bezig met een inhaalslag. De Europese Commissie wil digitale technologie cultiveren die past bij de menselijke maat, door Europese waarden door te laten klinken in beperkingen die via wetgeving wordt opgelegd aan AI-technologie. In april 2021 heeft de Europese Commissie een voorstel gepresenteerd voor de eerste wet- en regelgeving ter wereld op het gebied van kunstmatige intelligentie. Die wordt over een paar jaar van kracht. Ieder bedrijf dat in Europa AI-diensten produceert, levert of afneemt, moet dan aan deze strenge eisen voldoen. Op termijn zou dat kunnen leiden tot een nieuwe Europese industrie van mensgerichte technologie. De ontwikkeling van die technologie kan iets duurder zijn, maar de kosten van niet-mensgerichte technologie zullen vanwege de boetes zo hoog worden dat de markt vanzelf gaat kantelen.”

"De samenleving heeft grote behoefte aan ICT-ers met een brede maatschappelijke blik. Mensen die de technologie beheersen én in staat zijn die op een verantwoorde manier toe te passen"

Lector AI Stefan Leijnen

ICT-ers met een brede maatschappelijke blik

“De samenleving heeft grote behoefte aan ICT-ers met een brede maatschappelijke blik. Mensen die de technologie beheersen én in staat zijn die op een verantwoorde manier toe te passen. Mijn hoop is gevestigd op de AI-professionals van morgen die werk willen doen dat niet alleen economisch rendeert, maar dat ook goed is voor mens en maatschappij. Ik zie veel studenten nadenken over hun toekomst en zich zorgen maken, over het klimaat, de woningmarkt en ook over ongeremde digitalisering. Er komt een generatie aan die werk gaat maken van de grote problemen die de samenleving te lang voor zich heeft uitgeschoven, en ze op gaat lossen.”

Masteropleiding Human Centered AI

“Als Hogeschool Utrecht staan we middenin de samenleving en als lector heb ik de mooie opdracht om bruggen te slaan, tussen wetenschappers, studenten en professionals. De internationale masteropleiding Human Centered AI die we momenteel ontwikkelen wordt volledig gefinancierd door de Europese Commissie. We gaan die in diverse Europese landen aanbieden en alle lesmateriaal zal via open source toegankelijk zijn. Mijn droom is dat deze opleiding straks op tal van onderwijsinstellingen wordt gegeven, binnen en buiten Europa.”

Stefan Leijnen is sinds 2019 werkzaam als lector van het lectoraat Artificial Intelligence Hogeschool Utrecht. Tevens is hij adviseur bij de Nederlandse AI Coalitie. De titel van zijn openbare les is: Artificial Intelligence: de mens in de computer en de computer in de mens. 

Openbare les terugkijken?
Bekijk de openbare les terug. Zie ook de lectoraatsvideo die getoond is.
Wil je meer weten over de visie van het lectoraat? Lees dan dit visiedocument.

Tekst: Mariek Hilhorst

Deel dit artikel