Čo je kontext a ako sa líši od kvót účtu?
Pochopte rozdiel medzi kapacitou modelu spracovať materiály naraz a súhrnným využitím.
Kontext je materiál spracúvaný v aktuálnom kole
Kontext zahŕňa aktuálnu otázku, relevantný obsah rozhovoru aj text zo súborov a výsledkov nástrojov vložený do modelu. Jeho kapacita je obmedzená, takže aj krátka otázka sa môže blížiť k limitu pre dlhú predchádzajúcu diskusiu alebo rozsiahly výstup.
Token je jednotka systému na výpočet dĺžky textu a nerovná sa počtu čínskych znakov. Rovnaký počet znakov v kóde, angličtine a čínštine môže mať odlišný počet tokenov.
Kvóta účtu je iný druh limitu
Denné kvóty požiadaviek alebo mesačné limity využitia sledujú používanie účtu za určité obdobie. Skrátenie materiálov môže znížiť záťaž kontextu, ale okamžite neobnoví vyčerpanú mesačnú kvótu; ani čakanie na obnovu kvóty automaticky neskráti príliš dlhý vstup.
Napríklad pri krátkej doplňujúcej otázke s veľkým množstvom historických záznamov môžu kapacitu zaberať najmä záznamy. Prednostné zachovanie záznamov relevantných k aktuálnemu obdobiu a označenie vynechaných častí pomôže modelu sústrediť sa na problém a vám overiť, či analýza pokrýva potrebné podmienky.
- Najprv potvrďte, či chyba hovorí o príliš dlhom obsahu alebo nedostatočnej kvóte.
- Pri dlhom obsahu odstráňte nesúvisiace materiály alebo ich rozdeľte podľa otázok.
- Pri nedostatočnej kvóte skontrolujte príslušné hlásenia o jej obnove.
Ako usporiadať materiály
Najprv dodajte opis úlohy a potom nevyhnutné úryvky na jej dokončenie. Pri dlhých záznamoch začnite časovým rozsahom a kľúčovými slovami chyby; pri kóde relevantnými súbormi a vzťahmi volaní. Nevkladajte celú históriu opakovane „pre istotu“; zaberá miesto na nové problémy a sťažuje rozpoznanie podstatných bodov.