Uitleg
AI-bias ontstaat wanneer algoritmen op basis van historische data leren die reeds bestaande vooroordelen bevatten. Dit kan leiden tot oneerlijke behandeling van bepaalde groepen. Bias kan ontstaan door onvolledige of niet-representatieve trainingsdata, of door de manier waarop het probleem gedefinieerd is.
Bijvoorbeelden: AI-systemen voor recruitering die vrouwen benadeelden, of kredietverlening algoritmes die bepaalde etnische groepen uitsloten. Het identificeren en corrigeren van bias is cruciaal voor verantwoorde AI.
⚡ Voorbeelden
- •Amazon's recruiterings-AI die vrouwelijke kandidaten systematisch lager beoordeelde
- •Gezichtsherkenning systemen die minder accuraat werken voor donkere huidskleuren
- •Kredietkeuringssystemen die bepaalde postcodes discrimineren
Trefwoorden
vooroordeelfairnessdiscriminatietrainingsdatagevolgen