Que é o Contexto e Como se Diferencia das Cotas de Conta?
Comprender a capacidade do modelo para procesar material á vez fronte ao uso acumulado.
O contexto é o material a procesar na rolda actual
O contexto inclúe a pregunta actual, o contido relevante da conversa, así como o texto de ficheiros e os resultados das ferramentas introducidos no modelo. A súa capacidade é limitada, polo que mesmo unha pregunta curta pode achegarse ao límite debido a unha conversa previa longa ou a unha saída grande.
Un token é a unidade do sistema para calcular a lonxitude do texto e non equivale ao número de caracteres chineses. O mesmo número de caracteres en código, inglés e chinés pode ter diferentes recuentos de tokens.
A cota de conta é un tipo diferente de límite
As cotas de solicitude diarias ou os límites de uso mensuais céntranse no uso da conta durante un período de tempo. Acortar o material pode axudar a reducir a presión do contexto, pero non restaurará inmediatamente unha cota mensual esgotada; esperar á recuperación da cota tampouco acurtará automaticamente unha entrada excesivamente longa.
Por exemplo, unha breve pregunta de seguimento engadida cunha gran cantidade de rexistros históricos pode ter a súa capacidade ocupada principalmente polos rexistros. Reter primeiro os rexistros relevantes para o período de tempo actual, e despois indicar que outras partes se omiten, pode axudar ao modelo a centrarse no problema e tamén facilitarche a comprobación de se a análise abrangue as condicións necesarias.
- Primeiro confirma se a mensaxe de erro indica que o contido é demasiado longo ou que a cota é insuficiente.
- Se o contido é demasiado longo, elimina o material irrelevante ou segmenta por pregunta.
- Se a cota é insuficiente, comproba as indicacións de recuperación correspondentes da conta.
Como organizar os materiais
Proporciona primeiro a descrición da tarefa, despois os fragmentos esenciais necesarios para completar a tarefa. Para rexistros longos, especifica primeiro o rango de tempo e as palabras clave de erro; para código, proporciona primeiro os ficheiros relacionados e as relacións de chamada. Non pegues repetidamente todo o historial por 'seguro'; isto ocupará espazo para procesar novos problemas e dificultará a identificación dos puntos clave.