Zakaj UI halucinira?
»Halucinacija« je utečeno ime za odgovor, ki zveni prepričljivo, a vsebuje izmišljene ali napačne trditve.
Kaj je to?
»Halucinacija« je ime za odgovor, ki zveni prepričljivo, a vsebuje izmišljene ali napačne trditve. Nastane, ker jezikovni model sestavlja verjetno besedilo in nima vgrajenega preverjanja resnice. Napake so pogostejše pri redkih podatkih, številkah, citatih in virih.
Primer iz vsakdanjega življenja
Študent prosi klepetalnik za tri znanstvene članke o temi in dobi lepo oblikovane navedbe, od katerih ena ne obstaja.
Zakaj je pomembno?
Izmišljeni viri in številke lahko končajo v seminarskih nalogah, novinarskih člankih ali celo na sodišču. Zato je preverjanje nujno.
Pogosta zmota
Da je odgovor z navedenim virom preverjen. Vir je treba odpreti in preveriti, ali res obstaja in pravi to, kar trdi model.
Podrobneje
Ali model namenoma laže?
Iz napačnega odgovora ne moremo sklepati na namen. Tehnično je pomembno, da sistem ne preveri vedno resničnosti izhoda.
Kaj si lahko izmisli?
Naslove knjig, sodne odločbe, citate, izračune, dogodke in tudi povsem verodostojno videti spletne povezave.
Kaj najbolj pomaga?
Primarni viri, uporaba ustreznih orodij, jasno omejen kontekst in človeški pregled, posebej pri pomembnih odločitvah.
Ali bo problem popolnoma izginil?
Tega danes ni mogoče zagotoviti. Stopnja napak je odvisna od modela, naloge, podatkov in načina preverjanja.
Zapomnite si: Če UI navede vir, ga odprite. Naveden vir še ni preverjen vir.
Zanesljivi viri
Zadnji pregled: 1. november 2026. To je pojasnjevalno gradivo, ne strokovni, pravni ali zdravstveni nasvet. Za spreminjajoče se predpise in podatke preverite uradno različico.