Voorstellen om bias te reduceren (opdracht week 4)

Dit onderwerp bevat 1 reactie, 2 deelnemers, en is laatst bijgewerkt op 2 jaren, 6 maanden geleden door Arnoud Engelfriet (ICTRecht).

2 berichten aan het bekijken - 1 tot 2 (van in totaal 2)

Auteur

Berichten
oktober 12, 2021 om 12:40 #734

Jasmine Benning
Bijdrager

In het kader van de discussie over de problematiek van bias en hoe dit te reduceren is, hieronder twee voorstellen:

– de dataset zo veel mogelijk anonimiseren. Elementen als geslacht etc. eruit halen, wanneer dit voor de conclusie niet van belang is.
– voer meerdere testrondes uit. Controleer de uitkomst van de AI op bias. Blijkt dat de AI bias is, dan kan je dit aanpakken.

oktober 12, 2021 om 13:59 #736

Arnoud Engelfriet (ICTRecht)
Moderator

Anonimiseren is een goede, maar wel een hele lastige. AI kan patronen zoeken in andersoortige data, bijvoorbeeld je geslacht afleiden uit je hobby’s of je leeftijd uit je tijdstippen van online zijn.

Het idee van de uitkomsten toetsen op bias is een hele simpele en effectieve. Het kan echter pas na geruime tijd, want je moet een serie uitkomsten hebben om te kijken of deze bijvoorbeeld structureel vrouwen afwijst. Maar vaak is zo’n historische set uitkomsten er wel tegen de tijd dat er klachten komen, dus het kan goed!
Auteur

Berichten

2 berichten aan het bekijken - 1 tot 2 (van in totaal 2)

Je moet ingelogd zijn om een reactie op dit onderwerp te kunnen geven.