Zaupanje in varnost
Točnost, zavajanje, zasebnost, pristranskost in napadi.
Poglavje na eni sliki
Trditev UI
Izvorni vir
Datum in kontekst
Neodvisna potrditev
Objava ali popravek
V tem poglavju
- 1Kako preveriti odgovor UI?Za pomembno trditev naredite tri stvari: poiščite vir, preverite izvirnik in iščite neodvisno potrditev.
- 2Zakaj je UI lahko pristranska?Modeli lahko ponavljajo neenakosti, ki so v podatkih, ciljih in načinu uporabe.
- 3Kaj UI pomeni za zasebnost?Pri UI so pomembni tako podatki za učenje kot podatki, ki jih vnesemo pri uporabi.
- 4Kako lahko nekdo zlorabi UI agenta?Napadalec lahko v dokument, sporočilo ali spletno stran skrije navodila, ki jih agent napačno obravnava kot ukaze.
- 5Deepfake: kako nastane lažen posnetek?UI lahko izdela ali spremeni sliko, zvok ali video tako, da je videti kot resnična oseba ali dogodek.
- 6Kako merimo, ali je UI dobra?Kakovost je treba izmeriti za nalogo, skupino uporabnikov in konkretne razmere.
- 7Zakaj se na UI preveč zanašamo?Človek lahko preveč verjame zanesljivo zvenečemu sistemu ali pregleda le rezultat, ki ga pričakuje.
- 8Kako UI preizkusimo pred uporabo?Poleg običajnih meritev lahko sistem namerno izpostavimo zahtevnim in nepredvidenim primerom.