Algorithmen-Diskriminierung

Algo­rith­men-Dis­kri­mi­nie­rung bezieht sich auf die sys­te­ma­ti­sche Benach­tei­li­gung bestimm­ter Grup­pen durch Algo­rith­men. Dies kann unbe­ab­sich­tigt gesche­hen, wenn die Trai­nings­da­ten vor­ein­ge­nom­men sind oder die Algo­rith­men bestimm­te Merk­ma­le bevor­zu­gen oder benach­tei­li­gen. Die Fol­gen kön­nen weit­rei­chend sein, von unfai­ren Kre­dit­ent­schei­dun­gen bis hin zu dis­kri­mi­nie­ren­den Ein­stel­lun­gen. Es ist ent­schei­dend, Algo­rith­men auf Fair­ness und Trans­pa­renz zu prü­fen, um sol­che Dis­kri­mi­nie­run­gen zu ver­mei­den.