Kas ir konteksts un kā tas atšķiras no konta kvotas?
Izprotiet modeļa vienlaikus apstrādājamo materiālu ietilpību un uzkrāto lietojumu.
Konteksts ir šajā kārtā apstrādājamais materiāls
Kontekstā ietilpst pašreizējais jautājums, saistītais sarunas saturs un modelim ievadītais failu un rīku rezultātu teksts. Tā ietilpība ir ierobežota, tāpēc pat īss jautājums var pietuvoties robežai garas iepriekšējās sarunas vai lielas izvades dēļ.
Tokens ir teksta garuma uzskaites vienība un nav tas pats, kas ķīniešu rakstzīmju skaits. Vienāds rakstzīmju skaits kodā, angļu un ķīniešu tekstā var atbilst atšķirīgam tokenu skaitam.
Konta kvota ir cita veida ierobežojums
Dienas pieprasījumu kvota vai mēneša lietojuma limits attiecas uz konta izmantošanu noteiktā laikposmā. Materiālu saīsināšana mazina konteksta slodzi, bet uzreiz neatjauno izlietotu mēneša kvotu. Savukārt kvotas atjaunošanās automātiski nesaīsina pārāk garu ievadi.
Piemēram, īsam papildjautājumam pievienota liela vēsturisko žurnālu masa var aizņemt lielāko daļu ietilpības. Vispirms atstājiet ar pašreizējo laikposmu saistītos ierakstus un norādiet, ka pārējais izlaists. Tā modelim vieglāk koncentrēties uz problēmu un jums pārbaudīt, vai analīze aptver būtiskos nosacījumus.
- Noskaidrojiet, vai kļūda norāda pārāk garu saturu vai nepietiekamu kvotu.
- Ja saturs par garu, noņemiet nesaistīto vai sadaliet pa jautājumiem.
- Ja nepietiek kvotas, skatiet konta atbilstošos atjaunošanās paziņojumus.
Kā sakārtot materiālus
Vispirms sniedziet uzdevuma aprakstu, tad tā izpildei nepieciešamos fragmentus. Gariem žurnāliem norādiet laika intervālu un kļūdu atslēgvārdus, kodam – saistītos failus un izsaukumu attiecības. Drošības pēc atkārtoti neielīmējiet visu vēsturi. Tā aizņem vietu jaunā jautājuma apstrādei un apgrūtina būtiskā atrašanu.