ما هو السياق وكيف يختلف عن حصص الحساب؟
فهم قدرة النموذج على معالجة المواد دفعة واحدة مقابل الاستخدام التراكمي.
السياق هو المادة التي ستتم معالجتها في الجولة الحالية
يشمل السياق السؤال الحالي، والمحتوى ذي الصلة من المحادثة، بالإضافة إلى النص من الملفات ونتائج الأدوات المدخلة في النموذج. قدرته محدودة، لذلك قد يقترب حتى السؤال القصير من الحد بسبب محادثة سابقة طويلة أو مخرجات كبيرة.
الرمز هو وحدة النظام لحساب طول النص ولا يساوي عدد الأحرف الصينية. نفس عدد الأحرف في التعليمات البرمجية والإنجليزية والصينية قد يكون له عدد رموز مختلف.
حصة الحساب هي نوع مختلف من الحدود
تركز حصص الطلبات اليومية أو حدود الاستخدام الشهرية على استخدام الحساب على مدى فترة زمنية. يمكن أن يساعد تقصير المواد في تقليل ضغط السياق ولكنه لن يستعيد فورًا حصة شهرية مستنفدة؛ الانتظار لاستعادة الحصة لن يؤدي أيضًا إلى تقصير تلقائي لمدخل طويل بشكل مفرط.
على سبيل المثال، قد يتم شغل سعة سؤال متابعة موجز مضاف إليه سجلات تاريخية كبيرة بشكل أساسي بواسطة السجلات. الاحتفاظ بالسجلات ذات الصلة بالفترة الزمنية الحالية أولاً، ثم الإشارة إلى أن الأجزاء الأخرى محذوفة، يمكن أن يساعد النموذج على التركيز على المشكلة ويسهل عليك أيضًا التحقق مما إذا كان التحليل يغطي الشروط اللازمة.
- أولاً، تأكد مما إذا كانت رسالة الخطأ تشير إلى أن المحتوى طويل جدًا أو أن الحصة غير كافية.
- إذا كان المحتوى طويلاً جدًا، فقم بإزالة المواد غير ذات الصلة أو قم بتقسيمها حسب السؤال.
- إذا كانت الحصة غير كافية، فتحقق من مطالبات الاستعادة المقابلة للحساب.
كيفية تنظيم المواد
قدم وصف المهمة أولاً، ثم الأجزاء الأساسية اللازمة لإكمال المهمة. بالنسبة للسجلات الطويلة، حدد أولاً النطاق الزمني وكلمات مفتاحية للخطأ؛ بالنسبة للتعليمات البرمجية، قدم الملفات ذات الصلة وعلاقات الاستدعاء أولاً. لا تقم بلصق السجل بأكمله بشكل متكرر "للتأمين"؛ سيؤدي ذلك إلى شغل مساحة لمعالجة المشكلات الجديدة ويجعل تحديد النقاط الرئيسية أصعب.