Što je kontekst i kako se razlikuje od kvota računa?

Kontekst je materijal koji se obrađuje u trenutnom krugu

Kontekst uključuje trenutno pitanje, relevantan sadržaj iz razgovora, kao i tekst iz datoteka i rezultate alata unesene u model. Njegov kapacitet je ograničen, tako da čak i kratko pitanje može doseći granicu zbog dugog prethodnog razgovora ili velikog izlaza.

Token je jedinica sustava za izračunavanje duljine teksta i ne jednak je broju kineskih znakova. Ista količina znakova u kodu, engleskom i kineskom jeziku može imati različite brojeve tokena.

Kvota računa je druga vrsta ograničenja

Dnevne kvote zahtjeva ili mjesečna ograničenja upotrebe fokusiraju se na upotrebu računa tijekom određenog vremenskog razdoblja. Skraćivanje materijala može pomoći u smanjenju pritiska na kontekst, ali neće odmah vratiti iskorištenu mjesečnu kvotu; čekanje na oporavak kvote također neće automatski skratiti prekomjerno dug unos.

Na primjer, kratko popratno pitanje dopunjeno velikom količinom povijesnih zapisa može imati svoj kapacitet uglavnom zauzet zapisima. Zadržavanje zapisa relevantnih za trenutno vremensko razdoblje, a zatim naznačavanje da su drugi dijelovi izostavljeni, može pomoći modelu da se usredotoči na problem, a također vam olakšati provjeru je li analiza obuhvatila potrebne uvjete.

1. Prvo provjerite je li poruka o pogrešci navela da je sadržaj predug ili kvota nedovoljna.
2. Ako je sadržaj predug, uklonite nebitan materijal ili segmentirajte po pitanju.
3. Ako kvota nije dovoljna, provjerite odgovarajuće upute za oporavak računa.

Kako organizirati materijale

Prvo navedite opis zadatka, zatim bitne fragmente potrebne za dovršetak zadatka. Za duge zapisnike, prvo navedite vremenski raspon i ključne riječi pogreške; za kod, prvo navedite povezane datoteke i odnose poziva. Nemojte ponovno lijepiti cijelu povijest radi „osiguranja“; to će zauzeti prostor za obradu novih problema i otežati prepoznavanje ključnih točaka.