Datenrassismus

Daten­ras­sis­mus beschreibt die Dis­kri­mi­nie­rung von Per­so­nen oder Grup­pen, die auf der Ana­ly­se von Daten basiert. Dies kann gesche­hen, wenn Algo­rith­men auf­grund von his­to­ri­schen Daten oder unzu­rei­chen­den Daten­sät­zen Mus­ter erken­nen, die zu vor­ein­ge­nom­me­nen oder ras­sis­ti­schen Ergeb­nis­sen füh­ren. Sol­che Dis­kri­mi­nie­run­gen kön­nen sich in ver­schie­de­nen Berei­chen mani­fes­tie­ren, etwa bei der Gesichts­er­ken­nung, der Kre­dit­wür­dig­keits­prü­fung oder der Straf­ver­fol­gung. Es ist ent­schei­dend, Daten­ras­sis­mus durch trans­pa­ren­te Daten­prak­ti­ken und fai­re Algo­rith­men zu bekämp­fen.