Mikä on konteksti ja miten se eroaa tilikiintiöistä?

Konteksti on materiaali, jota käsitellään nykyisellä kierroksella

Konteksti sisältää nykyisen kysymyksen, asiaankuuluvan sisällön keskustelusta sekä tiedostoista ja työkalujen tuloksista malliin syötetyn tekstin. Sen kapasiteetti on rajallinen, joten jopa lyhyt kysymys voi lähestyä rajaa pitkän aiemman keskustelun tai suuren tulosteen vuoksi.

Token on järjestelmän yksikkö tekstin pituuden laskemiseen, eikä se vastaa kiinalaisten merkkien määrää. Samalla merkkimäärällä koodissa, englannissa ja kiinassa voi olla eri token-määrät.

Tilikiintiö on erilainen raja

Päivittäiset pyyntökiintiöt tai kuukausittaiset käyttörajoitukset keskittyvät tilin käyttöön tietyn ajanjakson aikana. Materiaalin lyhentäminen voi auttaa vähentämään kontekstin painetta, mutta se ei palauta välittömästi käytettyä kuukausikiintiötä; kiintiön palautumisen odottaminen ei myöskään automaattisesti lyhennä liian pitkää syötettä.

Esimerkiksi lyhyt jatkokysymys, johon on liitetty suuri määrä historiallisia lokeja, voi saada kapasiteettinsa pääasiassa lokien miehittämäksi. Säilyttämällä ensin nykyiseen ajanjaksoon liittyvät tiedot ja ilmoittamalla sitten, että muut osat on jätetty pois, voidaan auttaa mallia keskittymään ongelmaan ja helpottaa myös sinun tarkistamista, kattaako analyysi tarvittavat ehdot.

1. Varmista ensin, ilmoittaako virheilmoitus, että sisältö on liian pitkä vai kiintiö riittämätön.
2. Jos sisältö on liian pitkä, poista asiaankuulumaton materiaali tai segmentoi kysymyksen mukaan.
3. Jos kiintiö on riittämätön, tarkista tilin vastaavat palautuskehotteet.

Kuinka järjestää materiaalia

Anna ensin tehtävän kuvaus, sitten tehtävän suorittamiseen tarvittavat olennaiset katkelmat. Pitkille lokeille määritä ensin aikaväli ja virheavainsanat; koodille toimita ensin asiaankuuluvat tiedostot ja kutsumissuhteet. Älä liitä toistuvasti koko historiaa 'vakuutena'; tämä vie tilaa uusien ongelmien käsittelyltä ja vaikeuttaa keskeisten kohtien tunnistamista.