Parametri, tokeni in kontekst

Kaj je to?

Parametri so številke, ki jih model nastavi med učenjem in v katerih je shranjeno, kar se je naučil. Tokeni so koščki besedila, s katerimi model računa. Kontekstno okno pa je količina besedila, ki jo model med pogovorom vidi naenkrat.

Primer iz vsakdanjega življenja

Dolg dokument se lahko prilega v kontekstno okno, a model vseeno spregleda pomemben odstavek.

Zakaj je pomembno?

Ti pojmi pojasnijo, zakaj model pozabi začetek dolgega pogovora, zakaj ceniki štejejo tokene in zakaj večje število parametrov ne zagotavlja boljšega odgovora.

Pogosta zmota

Da model ve vse, kar je kdaj prebral, ali da si zapomni vse, kar mu poveste. Učni podatki, parametri in trenutni pogovor so tri različne stvari.

Podrobneje

Kaj so parametri?

Številčne vrednosti, ki jih je model prilagodil med učenjem. Ne gre za zbirko vseh izvirnih besedil.

Kaj je token?

Kos besedila, ki ga model obdeluje kot enoto. Lahko je cela beseda, del besede ali znak.

Kaj je kontekstno okno?

Količina vhodne vsebine, ki jo model lahko upošteva v posameznem koraku. Veliko okno ne pomeni brezhibnega spomina.

Je spomin enak kontekstu?

Ne. Aplikacija lahko ločeno hrani prejšnje podatke ali povzetke; model jih upošteva le, če so mu dani na voljo.

Zapomnite si: Podatki za učenje niso isto kot podatki, ki jih model bere zdaj.