Què és el Context i com difereix de les Quotes del Compte?
Comprendre la capacitat del model per processar material alhora enfront de l'ús acumulat.
El context és el material a processar en la ronda actual
El context inclou la pregunta actual, el contingut rellevant de la conversa, així com el text dels fitxers i els resultats de les eines introduïts al model. La seva capacitat és limitada, de manera que fins i tot una pregunta curta pot acostar-se al límit a causa d'una llarga conversa prèvia o una sortida gran.
Un token és la unitat del sistema per calcular la longitud del text i no equival al nombre de caràcters xinesos. El mateix nombre de caràcters en codi, anglès i xinès pot tenir diferents recompte de tokens.
La quota del compte és un tipus de límit diferent
Les quotes de sol·licitud diàries o els límits d'ús mensuals se centren en l'ús del compte durant un període de temps. Escurçar el material pot ajudar a reduir la pressió del context, però no restaurarà immediatament una quota mensual esgotada; esperar la recuperació de la quota tampoc escurçarà automàticament una entrada excessivament llarga.
Per exemple, una breu pregunta de seguiment afegida amb una gran quantitat de registres històrics pot tenir la seva capacitat ocupada principalment pels registres. Conservar primer els registres rellevants per al període de temps actual, i després indicar que altres parts s'han omès, pot ajudar el model a centrar-se en el problema i també facilitar-vos la comprovació si l'anàlisi cobreix les condicions necessàries.
- Primer, confirmeu si el missatge d'error indica que el contingut és massa llarg o que la quota és insuficient.
- Si el contingut és massa llarg, elimineu el material irrellevant o dividiu-lo per pregunta.
- Si la quota és insuficient, comproveu les indicacions de recuperació corresponents del compte.
Com organitzar els materials
Proporcioneu primer la descripció de la tasca, després els fragments essencials necessaris per completar la tasca. Per a registres llargs, especifiqueu primer el rang de temps i les paraules clau d'error; per a codi, proporcioneu primer els fitxers relacionats i les relacions de trucada. No enganxeu repetidament tota la història per "assegurança"; això ocuparà espai per processar nous problemes i farà que els punts clau siguin més difícils d'identificar.