Co je kontext a jak se liší od kvót účtu?
Pochopení kapacity modelu pro zpracování materiálu najednou oproti kumulativnímu využití.
Kontext je materiál ke zpracování v aktuálním kole
Kontext zahrnuje aktuální otázku, relevantní obsah z konverzace, stejně jako text ze souborů a výsledky nástrojů zadané modelu. Jeho kapacita je omezená, takže i krátká otázka se může přiblížit limitu kvůli dlouhé předchozí konverzaci nebo velkému výstupu.
Token je systémová jednotka pro výpočet délky textu a nerovná se počtu čínských znaků. Stejný počet znaků v kódu, angličtině a čínštině může mít různé počty tokenů.
Kvóta účtu je jiný druh limitu
Denní kvóty požadavků nebo měsíční limity využití se zaměřují na využití účtu za určité období. Zkrácení materiálu může pomoci snížit tlak na kontext, ale neobnoví okamžitě vyčerpanou měsíční kvótu; čekání na obnovení kvóty také automaticky nezkrátí nadměrně dlouhý vstup.
Například krátká následná otázka doplněná velkým množstvím historických protokolů může mít svou kapacitu převážně obsazenou protokoly. Ponechání záznamů relevantních pro aktuální časové období a následné označení, že jiné části jsou vynechány, může modelu pomoci soustředit se na problém a také vám usnadnit kontrolu, zda analýza pokrývá nezbytné podmínky.
- Nejprve potvrďte, zda chybová zpráva uvádí, že obsah je příliš dlouhý, nebo kvóta je nedostatečná.
- Pokud je obsah příliš dlouhý, odstraňte irelevantní materiál nebo segmentujte podle otázky.
- Pokud kvóta nestačí, zkontrolujte příslušné pokyny pro obnovení účtu.
Jak organizovat materiály
Nejprve uveďte popis úlohy, poté nezbytné fragmenty potřebné k dokončení úlohy. U dlouhých protokolů nejprve specifikujte časový rozsah a klíčová slova chyb; u kódu nejprve uveďte související soubory a vztahy volání. Nepřilepujte opakovaně celou historii pro „pojištění“; to zabere místo pro zpracování nových problémů a ztíží identifikaci klíčových bodů.