Hackcat

O que é contexto e como ele difere das quotas da conta?

Entenda a capacidade do modelo de processar materiais de uma vez em comparação com o uso acumulado.

Contexto é o material a ser processado na rodada atual

O contexto inclui a pergunta atual, conteúdo relevante da conversa e textos de ficheiros e resultados de ferramentas enviados ao modelo. Sua capacidade é limitada, então até uma pergunta curta pode se aproximar do limite por causa de uma conversa anterior longa ou de uma saída volumosa.

Token é a unidade do sistema para calcular o tamanho do texto e não equivale ao número de caracteres chineses. A mesma quantidade de caracteres em código, inglês e chinês pode corresponder a quantidades diferentes de tokens.

A quota da conta é outro tipo de limite

Quotas diárias de solicitações ou limites mensais consideram o uso da conta ao longo de um período. Reduzir o material ajuda a aliviar o contexto, mas não restaura imediatamente uma quota mensal já esgotada; esperar a recuperação da quota também não encurta automaticamente uma entrada longa demais.

Por exemplo, uma pergunta complementar breve acompanhada de muitos logs históricos pode ter sua capacidade ocupada principalmente pelos logs. Preservar primeiro os registos do período relevante e indicar que outras partes foram omitidas ajuda o modelo a focar no problema e facilita conferir se a análise cobre as condições necessárias.

  1. Confirme primeiro se o erro diz que o conteúdo é longo demais ou que a quota é insuficiente.
  2. Se o conteúdo é longo demais, remova materiais sem relação ou divida por pergunta.
  3. Se a quota é insuficiente, confira os avisos correspondentes de recuperação da conta.

Como organizar os materiais

Forneça primeiro a descrição da tarefa e depois os trechos essenciais para concluí-la. Em logs longos, especifique primeiro o intervalo de tempo e as palavras-chave do erro; em código, forneça primeiro os ficheiros relacionados e as relações de chamada. Não cole repetidamente todo o histórico “por garantia”; isso ocupa espaço necessário para novos problemas e dificulta identificar os pontos principais.