Mis on kontekst ja kuidas see erineb kontokvootidest?
Mõista mudeli võimet töödelda materjali korraga versus kumulatiivne kasutus.
Kontekst on materjal, mida tuleb praeguses voorus töödelda
Kontekst hõlmab praegust küsimust, vestluse asjakohast sisu, samuti failidest pärit teksti ja mudelisse sisestatud tööriista tulemusi. Selle maht on piiratud, nii et isegi lühike küsimus võib pika eelmise vestluse või suure väljundi tõttu limiidile läheneda.
Token on süsteemi ühik teksti pikkuse arvutamiseks ja see ei võrdu hiina tähemärkide arvuga. Sama arv tähemärke koodis, inglise ja hiina keeles võib anda erineva arvu tokeneid.
Kontokvooot on teistsugune piirang
Päevased taotluskvoodid või igakuised kasutuspiirangud keskenduvad konto kasutamisele aja jooksul. Materjali lühendamine aitab vähendada kontekstirõhku, kuid ei taasta kohe tühjaks kasutatud igakuist kvooti; kvoodi taastumise ootamine ei lühenda automaatselt liiga pikka sisendit.
Näiteks võib lühike järelküsimus, millele on lisatud suur hulk ajaloolisi logisid, omada oma mahtu peamiselt logide poolt. Praeguse perioodiga seotud kirjete esmalt säilitamine ja seejärel märkamine, et muud osad on välja jäetud, aitab mudelil probleemile keskenduda ja muudab ka teie jaoks vajalike tingimuste katmise analüüsi kontrollimise lihtsamaks.
- Kõigepealt kinnitage, kas veateade teatab, et sisu on liiga pikk või kvoot on ebapiisav.
- Kui sisu on liiga pikk, eemaldage ebavajalik materjal või segmentige küsimuse järgi.
- Kui kvoot on ebapiisav, kontrollige konto vastavaid taastamise vihjeid.
Kuidas materjale korraldada
Esitage kõigepealt ülesande kirjeldus, seejärel ülesande täitmiseks vajalikud olulised fragmendid. Pikkade logide puhul määrake kõigepealt ajavahemik ja veakategooriad; koodi puhul esitage kõigepealt seotud failid ja kõnesuhted. Ärge kleepige korduvalt kogu ajalugu „kindlustuse“ jaoks; see võtab ruumi uute probleemide töötlemiseks ja muudab peamiste punktide tuvastamise raskemaks.