Kas yra kontekstas ir kuo jis skiriasi nuo paskyros kvotų?
Supraskite skirtumą tarp vienu metu apdorojamos medžiagos talpos ir sukaupto naudojimo.
Kontekstas — medžiaga, apdorojama šiame etape
Kontekstą sudaro dabartinis klausimas, susijęs pokalbio turinys ir modeliui pateiktas failų bei įrankių rezultatų tekstas. Jo talpa ribota, todėl net trumpas klausimas gali priartėti prie ribos dėl ilgo ankstesnio pokalbio ar didelės išvesties.
Žetonas yra sistemos naudojamas teksto ilgio vienetas ir nėra tapatus kinų rašmenų skaičiui. Tiek pat simbolių kode, anglų ar kinų kalbos tekste gali sudaryti skirtingą žetonų skaičių.
Paskyros kvota yra kitokio pobūdžio riba
Dienos užklausų kvotos ir mėnesio naudojimo ribos apima paskyros naudojimą per tam tikrą laikotarpį. Medžiagos trumpinimas gali sumažinti konteksto apkrovą, bet iš karto neatkuria išnaudotos mėnesio kvotos; kvotos atkūrimo laukimas taip pat automatiškai nesutrumpina per ilgos įvesties.
Pavyzdžiui, prie trumpo papildomo klausimo pridėjus daug istorinių žurnalų, didžiąją talpos dalį gali užimti būtent jie. Pirmiausia palikite dabartiniam laikotarpiui aktualius įrašus ir pažymėkite, kad kitos dalys praleistos: taip modeliui lengviau susitelkti į problemą, o jums — patikrinti, ar analizė apima būtinas sąlygas.
- Pirmiausia patikrinkite, ar klaida nurodo per ilgą turinį, ar nepakankamą kvotą.
- Jei turinys per ilgas, pašalinkite nesusijusią medžiagą arba skaidykite pagal klausimus.
- Jei kvotos nepakanka, peržiūrėkite atitinkamus paskyros atkūrimo pranešimus.
Kaip sutvarkyti medžiagą
Pirmiausia pateikite užduoties aprašymą, tada būtinus jai atlikti fragmentus. Ilgiems žurnalams iš pradžių nurodykite laikotarpį ir klaidų raktažodžius; kodui pirmiausia pateikite susijusius failus ir iškvietimų ryšius. Neklijuokite visos istorijos pakartotinai „dėl visa ko“: ji užims vietą naujoms problemoms apdoroti ir apsunkins svarbiausių dalykų paiešką.