Was ist Kontext und wie unterscheidet er sich von Kontingenten?
Verständnis der Kapazität des Modells zur gleichzeitigen Verarbeitung von Material im Vergleich zur kumulativen Nutzung.
Kontext ist das Material, das in der aktuellen Runde verarbeitet wird
Der Kontext umfasst die aktuelle Frage, relevante Inhalte aus der Konversation sowie Text aus Dateien und Tool-Ergebnissen, die in das Modell eingegeben wurden. Seine Kapazität ist begrenzt, sodass selbst eine kurze Frage aufgrund einer langen vorherigen Konversation oder einer großen Ausgabe an das Limit stoßen kann.
Ein Token ist die Einheit des Systems zur Berechnung der Textlänge und entspricht nicht der Anzahl der chinesischen Zeichen. Dieselbe Anzahl von Zeichen in Code, Englisch und Chinesisch kann unterschiedliche Token-Anzahlen haben.
Das Kontingent ist eine andere Art von Grenze
Tägliche Anfragekontingente oder monatliche Nutzungslimits konzentrieren sich auf die Nutzung des Kontos über einen bestimmten Zeitraum. Das Kürzen des Materials kann helfen, den Kontextdruck zu verringern, stellt aber kein aufgebrauchtes monatliches Kontingent sofort wieder her; das Warten auf die Wiederherstellung des Kontingents verkürzt auch nicht automatisch eine übermäßig lange Eingabe.
Eine kurze Folgefrage, die mit einer großen Menge an historischen Protokollen angehängt wird, kann beispielsweise ihre Kapazität hauptsächlich durch die Protokolle beanspruchen. Das Beibehalten von Aufzeichnungen, die für den aktuellen Zeitraum relevant sind, und die anschließende Angabe, dass andere Teile weggelassen werden, kann dem Modell helfen, sich auf das Problem zu konzentrieren, und erleichtert Ihnen auch die Überprüfung, ob die Analyse die notwendigen Bedingungen abdeckt.
- Bestätigen Sie zuerst, ob die Fehlermeldung besagt, dass der Inhalt zu lang ist oder das Kontingent nicht ausreicht.
- Wenn der Inhalt zu lang ist, entfernen Sie irrelevantes Material oder segmentieren Sie nach Fragen.
- Wenn das Kontingent nicht ausreicht, überprüfen Sie die entsprechenden Wiederherstellungsaufforderungen des Kontos.
Wie man Materialien organisiert
Geben Sie zuerst die Aufgabenbeschreibung an, dann die wesentlichen Fragmente, die zur Erfüllung der Aufgabe erforderlich sind. Bei langen Protokollen geben Sie zuerst den Zeitraum und die Fehlerschlüsselwörter an; bei Code geben Sie zuerst die zugehörigen Dateien und Aufrufbeziehungen an. Fügen Sie nicht wiederholt die gesamte Historie zur „Versicherung“ ein; dies beansprucht Platz für die Bearbeitung neuer Probleme und erschwert die Identifizierung von Kernpunkten.