¿Qué es el contexto y en qué se diferencia de las cuotas de cuenta?
Comprender la capacidad del modelo para procesar material a la vez frente al uso acumulativo.
El contexto es el material a procesar en la ronda actual
El contexto incluye la pregunta actual, el contenido relevante de la conversación, así como el texto de archivos y resultados de herramientas introducidos en el modelo. Su capacidad es limitada, por lo que incluso una pregunta corta puede acercarse al límite debido a una conversación previa larga o una salida grande.
Un token es la unidad del sistema para calcular la longitud del texto y no equivale al número de caracteres chinos. El mismo número de caracteres en código, inglés y chino puede tener diferentes recuentos de tokens.
La cuota de cuenta es un tipo diferente de límite
Las cuotas de solicitud diarias o los límites de uso mensual se centran en el uso de la cuenta durante un período de tiempo. Acortar el material puede ayudar a reducir la presión del contexto, pero no restaurará inmediatamente una cuota mensual agotada; esperar la recuperación de la cuota tampoco acortará automáticamente una entrada excesivamente larga.
Por ejemplo, una breve pregunta de seguimiento, añadida con una gran cantidad de registros históricos, puede tener su capacidad ocupada principalmente por los registros. Conservar primero los registros relevantes para el período de tiempo actual y luego indicar que otras partes se omiten puede ayudar al modelo a centrarse en el problema y también facilitar que verifiques si el análisis cubre las condiciones necesarias.
- Primero, confirma si el mensaje de error indica que el contenido es demasiado largo o que la cuota es insuficiente.
- Si el contenido es demasiado largo, elimina el material irrelevante o segmenta por pregunta.
- Si la cuota es insuficiente, consulta las indicaciones de recuperación correspondientes de tu cuenta.
Cómo organizar los materiales
Proporciona primero la descripción de la tarea, luego los fragmentos esenciales necesarios para completarla. Para registros largos, especifica primero el rango de tiempo y las palabras clave de error; para código, proporciona primero los archivos relacionados y las relaciones de llamada. No pegues repetidamente todo el historial por 'seguridad'; esto ocupará espacio para procesar nuevos problemas y dificultará la identificación de los puntos clave.