Mi a kontextus és miben különbözik a számlakerettől?
A modell egyszerre feldolgozási kapacitásának megértése a kumulatív használattal szemben.
A kontextus az aktuális körben feldolgozandó anyag
A kontextus magában foglalja az aktuális kérdést, a beszélgetés releváns tartalmát, valamint a fájlokból és eszközök kimeneteiből származó szöveget, amelyet a modellbe bevittek. Kapacitása korlátozott, így még egy rövid kérdés is megközelítheti a határt egy hosszú előzetes beszélgetés vagy egy nagy kimenet miatt.
A token a rendszer szöveghossz számításának egysége, és nem egyenlő a kínai karakterek számával. Ugyanannyi karakter kód, angol és kínai nyelven eltérő token számot eredményezhet.
A számlakeret egy másfajta korlát
A napi kéréskvóták vagy havi használati limitek egy időszakra vonatkozóan a számla használatára összpontosítanak. Az anyag rövidítése segíthet csökkenteni a kontextus terhelését, de nem állítja azonnal helyre a felhasznált havi kvótát; a kvóta helyreállítására való várakozás sem fogja automatikusan lerövidíteni a túl hosszú bemenetet.
Például egy rövid kiegészítő kérdés, amelyhez nagy mennyiségű történelmi napló van hozzáfűzve, kapacitását főként a naplók foglalhatják el. A jelenlegi időszakhoz releváns rekordok elsőként történő megtartása, majd annak jelzése, hogy más részek kimaradtak, segíthet a modellnek a problémára összpontosítani, és megkönnyíti az Ön számára annak ellenőrzését, hogy az elemzés lefedi-e a szükséges feltételeket.
- Először erősítse meg, hogy a hibaüzenet szerint a tartalom túl hosszú, vagy a kvóta elégtelen.
- Ha a tartalom túl hosszú, távolítsa el a relevánsatlan anyagot, vagy szegmentálja kérdés szerint.
- Ha a kvóta elégtelen, ellenőrizze a számla megfelelő helyreállítási jelzéseit.
Hogyan kell rendezni az anyagokat
Először adja meg a feladat leírását, majd azokat az alapvető töredékeket, amelyek a feladat elvégzéséhez szükségesek. Hosszú naplók esetén először adja meg az időtartományt és a hiba kulcsszavakat; kód esetén először adja meg a kapcsolódó fájlokat és a hívási kapcsolatokat. Ne másolja ismételten a teljes előzményt „biztosításként”; ez helyet foglal el az új problémák feldolgozásától, és megnehezíti a kulcspontok azonosítását.