eFAIR

Hoe kunnen we garanderen dat AI-beslissingen gerechtvaardigd zijn en geen onbedoelde vooroordelen of discriminatie in stand houden? Binnen het eFAIR-project ontwikkelen de Hogeschool Utrecht, MavenBlue en het Verbond van Verzekeraars een raamwerk waarmee organisaties hoe kwantitatieve technische eerlijkheidsscores kunnen koppelen aan de beslissingen die ze moeten noemen rond AI.

Het eFAIR-project onderzoekt hoe Explainable AI (XAI) kan bijdragen aan het transparant en begrijpelijk maken van fairnessmaten en -principes voor verschillende gebruikersgroepen. Het project ontwikkelt een raamwerk dat fairnessmaten dynamisch presenteert, rekening houdend met de kennis en behoeften van specifieke gebruikersgroepen. Het raamwerk zal interactief en modulair zijn, zodat het kan worden aangepast aan verschillende gebruikers, van technische experts tot beleidsmakers en eindgebruikers.

AI-systemen worden steeds vaker gebruikt om geautomatiseerde beslissingen te nemen, maar het gebrek aan transparantie leidt tot ethische en juridische vraagstukken. Hoewel er in de wetenschap verschillende manieren bestaan om fairness te meten, is het voor veel gebruikers moeilijk te begrijpen wat deze betekenen en hoe ze in de praktijk kunnen worden toegepast.

Praktijkpublicatie: Een open-accesspublicatie over de gebruikersbehoeften rond het uitleggen van fairness
Open-sourcetool: Een set visualisatietechnieken voor fairnessmaten
Wetenschappelijke publicatie: Een literatuurstudie over hoe eerlijkheidsmaten kunnen worden uitgelegd
Open-sourcesoftware: Een online demonstratietool waarmee fairnessmaten interactief kunnen worden verkend
Praktijkpublicatie 2: Richtlijnen en best practices
Wetenschappelijke publicatie 2: Een verslag van de testresultaten van de eFAIR-tool

Via literatuurstudies, interviews en vragenlijsten brengen we behoeften en mogelijke oplossingen in kaart. We ontwikkelen prototypes van een eFAIR-raamwerk. Het raamwerk wordt gevalideerd aan de hand van concrete casestudies binnen de verzekeringssector en andere financiële sectoren.

Voor de beroepspraktijk biedt het eFAIR-raamwerk een manier om technische kwantitatieve eerlijkheidsmaten te benutten bij dagelijkse beslissingen, zoals het bepalen van een premie. Voor het onderwijs biedt dit project een casus die state-of-the-art AI en ethiek samenbrengt in een praktisch probleem, in samenwerking met verzekeraars en andere financiële organisaties.