Kaj je kontekst in kako se razlikuje od kvot računa?
Razumevanje količine gradiva, ki ga model obdela naenkrat, v primerjavi s skupno porabo.
Kontekst je gradivo trenutnega kroga obdelave
Kontekst vključuje trenutno vprašanje, pomembno vsebino pogovora ter besedilo datotek in rezultatov orodij, ki vstopajo v model. Kapaciteta je omejena, zato se lahko tudi kratko vprašanje približa meji zaradi dolgega predhodnega pogovora ali velikega izhoda.
Token je sistemska enota za dolžino besedila in ni enak številu kitajskih znakov. Enako število znakov v kodi, angleščini in kitajščini lahko pomeni različno število tokenov.
Kvota računa je druga vrsta omejitve
Dnevne kvote zahtev in mesečne omejitve porabe obravnavajo uporabo računa v časovnem obdobju. Krajšanje gradiva zmanjša pritisk na kontekst, ne obnovi pa takoj izčrpane mesečne kvote. Čakanje na obnovo kvote prav tako samodejno ne skrajša predolgega vhoda.
Kratko dodatno vprašanje z veliko zgodovinskimi dnevniki ima lahko večino kapacitete zasedene prav z dnevniki. Najprej ohranite zapise trenutnega pomembnega obdobja in označite izpust drugih delov. Tako se model osredotoči na težavo, vi pa lažje preverite, ali analiza pokriva potrebne pogoje.
- Najprej potrdite, ali napaka govori o predolgi vsebini ali premajhni kvoti.
- Pri predolgi vsebini odstranite nepovezano gradivo ali ga razdelite po vprašanjih.
- Pri nezadostni kvoti preverite ustrezna opozorila računa o obnovi.
Kako urediti gradivo
Najprej opišite nalogo, nato dodajte nujne odlomke za njeno dokončanje. Pri dolgih dnevnikih navedite časovno obdobje in ključne besede napake; pri kodi najprej povezane datoteke in odnose klicev. Celotne zgodovine ne lepite večkrat »za vsak primer«. S tem zasedete prostor za nove težave in otežite prepoznavanje ključnih točk.