Hva er kontekst, og hvordan skiller det seg fra kontokvoter?

Kontekst er materialet som behandles i denne runden

Kontekst omfatter det aktuelle spørsmålet, relevant samtaleinnhold og tekst fra filer og verktøyresultater som sendes inn til modellen. Kapasiteten er begrenset. Derfor kan selv et kort spørsmål nærme seg grensen på grunn av en lang tidligere samtale eller store utdata.

Et token er systemets enhet for å beregne tekstlengde og tilsvarer ikke antallet kinesiske tegn. Samme antall tegn i kode, engelsk og kinesisk kan gi forskjellig antall tokener.

Kontokvoten er en annen type grense

Daglige forespørselskvoter eller månedlige forbruksgrenser gjelder kontoens bruk over tid. Kortere materiale kan redusere belastningen på kontekstvinduet, men gjenoppretter ikke straks en oppbrukt månedskvote. Å vente på ny kvote forkorter heller ikke automatisk for lange inndata.

Et kort oppfølgingsspørsmål med en stor mengde historiske logger kan for eksempel bruke mesteparten av kapasiteten på loggene. Behold først oppføringer som gjelder den aktuelle perioden, og marker at andre deler er utelatt. Det kan hjelpe modellen å fokusere på problemet og gjøre det lettere for deg å kontrollere at analysen dekker nødvendige betingelser.

1. Avklar først om feilmeldingen sier at innholdet er for langt eller at kvoten er utilstrekkelig.
2. Hvis innholdet er for langt, fjern uvedkommende materiale eller del opp etter spørsmål.
3. Hvis kvoten er utilstrekkelig, se kontoens meldinger om gjenoppretting.

Slik organiserer du materialet

Gi først oppgavebeskrivelsen og deretter utdragene som er nødvendige for å fullføre oppgaven. For lange logger, oppgi først tidsintervallet og nøkkelord for feilen. For kode, gi relaterte filer og kallforbindelser først. Ikke lim inn hele historikken gjentatte ganger «for sikkerhets skyld». Det tar plass fra behandling av nye spørsmål og gjør viktige punkter vanskeligere å finne.