Zakaj je UI lahko pristranska?
Modeli lahko ponavljajo neenakosti, ki so v podatkih, ciljih in načinu uporabe.
Kaj je to?
Sistem UI je lahko pristranski, kadar za nekatere skupine ljudi deluje slabše ali jih obravnava neenako. Pristranskost izvira iz podatkov, izbranih ciljev in načina uporabe. Povsem nepristranskega sistema ni, lahko pa jo merimo in zmanjšujemo.
Primer iz vsakdanjega življenja
Sistem za prepoznavanje obrazov pogosteje zgreši pri ljudeh s temnejšo poltjo, ker je bilo takšnih fotografij v učnih podatkih manj.
Zakaj je pomembno?
Pri zaposlovanju, posojilih, policiji ali zdravstvu lahko pristranskost ljudem odvzame priložnosti ali pravice.
Pogosta zmota
Da visoka povprečna natančnost pomeni pravičen sistem. Povprečje lahko prikrije slabe rezultate za posamezno skupino.
Podrobneje
Od kod pride pristranskost?
Iz izbire podatkov, manjkajočih primerov, označevanja, meril uspeha in družbenega konteksta.
Ali je mogoče narediti povsem nepristransko UI?
Ni preprostega univerzalnega merila pravičnosti. Različni cilji so lahko v napetosti.
Kje je posebej nevarna?
Pri odločanju o zaposlitvi, kreditih, izobraževanju, nadzoru ali javnih storitvah.
Kaj lahko naredimo?
Preskusimo sistem na različnih skupinah, spremljamo napake, vključimo prizadete ljudi in uredimo način pritožbe.
Zapomnite si: Povprečna natančnost lahko prikrije slabe rezultate za posamezno skupino.
Zanesljivi viri
Zadnji pregled: 1. november 2026. To je pojasnjevalno gradivo, ne strokovni, pravni ali zdravstveni nasvet. Za spreminjajoče se predpise in podatke preverite uradno različico.