Cos'è il contesto e in cosa differisce dalle quote dell'account?
Distingui la capacità del modello di elaborare materiale in una volta dall'utilizzo cumulativo.
Il contesto è il materiale da elaborare nello scambio corrente
Il contesto comprende la domanda attuale, i contenuti pertinenti della conversazione e i testi di file e risultati degli strumenti passati al modello. La sua capacità è limitata: anche una domanda breve può avvicinarsi al limite a causa di una lunga conversazione precedente o di output molto estesi.
Un token è l'unità con cui il sistema misura la lunghezza del testo e non equivale al numero di caratteri cinesi. Lo stesso numero di caratteri in codice, inglese e cinese può produrre conteggi di token diversi.
La quota dell'account è un limite diverso
Le quote giornaliere di richieste o i limiti mensili riguardano l'uso dell'account in un periodo. Accorciare il materiale può ridurre la pressione sul contesto, ma non ripristina immediatamente una quota mensile esaurita. Attendere il ripristino della quota, allo stesso modo, non accorcia automaticamente un input troppo lungo.
Per esempio, una breve domanda successiva accompagnata da molti log precedenti può occupare la capacità soprattutto con quei log. Conservare prima i dati relativi al periodo corrente e indicare che le altre parti sono omesse aiuta il modello a concentrarsi sul problema e rende più facile verificare che l'analisi consideri le condizioni necessarie.
- Verifica prima se l'errore segnala contenuto troppo lungo o quota insufficiente.
- Se il contenuto è troppo lungo, elimina il materiale non pertinente o dividilo per domanda.
- Se la quota è insufficiente, consulta i messaggi di ripristino corrispondenti dell'account.
Come organizzare i materiali
Fornisci prima la descrizione dell'attività, poi i frammenti essenziali per completarla. Per log lunghi indica innanzitutto intervallo temporale e parole chiave degli errori; per il codice parti dai file pertinenti e dalle relazioni tra chiamate. Non incollare ripetutamente tutta la cronologia «per sicurezza»: occupa lo spazio utile ai nuovi problemi e rende più difficili da individuare i punti importanti.