Hoe slimme algoritmen onaanvaardbare patronen leren

Share:

Over het onderzoek

Je volgende sollicitatie voor een job of aanvraag voor een lening zou wel eens door AI beoordeeld kunnen worden. Veel banken en bedrijven gebruiken al slimme AI-algoritmes om je gegevens te beoordelen. Maar wat als zo'n algoritme onaanvaardbare patronen aanleert, wat leidt tot discriminatie? Carmen Mazijn (VUB) creëerde een techniek genaamd LUCID om te detecteren hoe een AI-model beslissingen neemt en te bepalen of het model bevooroordeeld is. "Samen kunnen we ervoor zorgen dat computers eerlijke beslissingen nemen zonder te discrimineren," zegt ze.

Technologie
Carmen Mazijn
VUB

Carmen Mazijn is een dynamische onderzoeker met een passie voor de eerlijkheid van artificiële intelligentie (AI)-systemen. Met een sterk verlangen om een verschil te maken in de wereld, verkent ze de complexe wereld van besluitvormingsprocessen en machine learning. Door de mysteries van black-box algoritmen te onderzoeken in een interdisciplinair consortium aan de VUB, hoopt Carmen licht te werpen op de ethische implicaties van AI in onze moderne samenleving.

Gerelateerde video's