Hackcat

コンテキストとは何か、アカウントのクォータとどう違うのか?

一度に処理できるモデルの容量と累積使用量の違いを理解する。

コンテキストは現在のラウンドで処理される資料である

コンテキストには、現在の質問、会話の関連コンテンツ、およびモデルに入力されたファイルやツールの結果からのテキストが含まれます。その容量には限りがあるため、短い質問でも、長い以前の会話や大きな出力のために制限に近づく可能性があります。

トークンはテキストの長さを計算するシステムの単位であり、文字数とは等しくありません。コード、英語、中国語の同じ文字数でも、トークン数は異なる場合があります。

アカウントクォータは異なる種類の制限である

日次リクエストクォータまたは月次使用量制限は、一定期間のアカウントの使用状況に焦点を当てています。資料を短縮することはコンテキストの圧力を軽減するのに役立ちますが、使い果たした月次クォータをすぐに回復させるわけではありません。クォータの回復を待っても、過度に長い入力を自動的に短縮することはできません。

例えば、大きな履歴ログが付加された短いフォローアップ質問は、その容量の大部分をログが占めている可能性があります。現在の期間に関連するレコードを最初に保持し、他の部分が省略されていることを示すことで、モデルが問題に集中するのを助け、分析が必要な条件をカバーしているかどうかを確認しやすくすることができます。

  1. まず、エラーメッセージがコンテンツが長すぎるか、クォータが不足していると述べているかを確認します。
  2. コンテンツが長すぎる場合は、無関係な資料を削除するか、質問ごとにセグメント化します。
  3. クォータが不足している場合は、アカウントの対応する回復プロンプトを確認します。

資料の整理方法

まずタスクの説明を提供し、次にタスクを完了するために必要な重要な断片を提供します。長いログの場合は、まず時間範囲とエラーキーワードを指定します。コードの場合は、関連するファイルと呼び出し関係を先に提供します。「保険」のために履歴全体を繰り返し貼り付けないでください。これは新しい問題を処理するためのスペースを占有し、重要なポイントを特定しにくくします。