Kaj je RAG in zakaj UI bere dokumente?

Kaj je to?

RAG (angl. retrieval-augmented generation) pomeni, da sistem pred odgovorom poišče ustrezne dokumente in jih doda v kontekst modela. Model tako odgovarja na podlagi najdenih virov, ne le iz spomina. To omogoča sveže podatke in navajanje virov.

Primer iz vsakdanjega življenja

Vprašate po pravilniku podjetja. Sistem poišče ustrezen člen, model ga pojasni in doda povezavo na vir.

Zakaj je pomembno?

RAG zmanjša izmišljene odgovore in omogoča uporabo internih ali najnovejših podatkov, ne da bi model ponovno učili.

Pogosta zmota

Da je odgovor z virom samodejno pravilen. Najden dokument je lahko napačen, zastarel ali celo zlonameren, model pa ga lahko napačno povzame.

Podrobneje

Kako poteka?

Sistem poišče odlomke v bazi ali dokumentih, nato model iz njih pripravi odgovor.

Ali se model ob tem na novo uči?

Ne nujno. Zunanje gradivo dobi med uporabo; parametri lahko ostanejo enaki.

Ali RAG prepreči izmišljije?

Ne povsem. Lahko izboljša sledljivost, če so dokumenti kakovostni, pravilno izbrani in uporabljeni.

Kaj je vektorsko iskanje?

Metoda, ki vsebine predstavi s številčnimi vektorji ter išče podobne po pomenu.

Zapomnite si: Najden dokument je lahko napačen, star ali zlonameren.