زمینه (Context) چیست و چه تفاوتی با سهمیه حساب (Account Quotas) دارد؟
درک ظرفیت مدل برای پردازش مطالب در یک زمان در مقابل استفاده تجمعی.
زمینه، مطالب مورد پردازش در دور فعلی است
زمینه شامل سؤال فعلی، محتوای مرتبط از مکالمه، و همچنین متن فایل‌ها و نتایج ابزار ورودی به مدل است. ظرفیت آن محدود است، بنابراین حتی یک سؤال کوتاه ممکن است به دلیل مکالمه طولانی قبلی یا خروجی بزرگ به حد مجاز نزدیک شود.
توکن واحد سیستم برای محاسبه طول متن است و با تعداد کاراکترهای چینی برابر نیست. همین تعداد کاراکتر در کد، انگلیسی و چینی ممکن است تعداد توکن متفاوتی داشته باشد.
سهمیه حساب نوع دیگری از محدودیت است
سهمیه‌های درخواست روزانه یا محدودیت‌های استفاده ماهانه بر استفاده حساب در یک دوره زمانی تمرکز دارند. کوتاه کردن مطالب می‌تواند به کاهش فشار زمینه کمک کند اما فوراً سهمیه ماهانه مصرف شده را بازیابی نمی‌کند؛ انتظار برای بازیابی سهمیه نیز ورودی بیش از حد طولانی را به طور خودکار کوتاه نمی‌کند.
به عنوان مثال، یک سؤال پیگیری کوتاه که با مقدار زیادی از گزارش‌های تاریخی ضمیمه شده است، ممکن است ظرفیت آن عمدتاً توسط گزارش‌ها اشغال شود. ابتدا نگه‌داشتن سوابق مرتبط با دوره زمانی فعلی، سپس نشان دادن اینکه بخش‌های دیگر حذف شده‌اند، می‌تواند به مدل کمک کند تا روی مشکل تمرکز کند و همچنین بررسی اینکه آیا تجزیه و تحلیل شرایط لازم را پوشش می‌دهد برای شما آسان‌تر می‌شود.
- ابتدا تأیید کنید که آیا پیام خطا بیان می‌کند که محتوا خیلی طولانی است یا سهمیه کافی نیست.
- اگر محتوا خیلی طولانی است، مطالب نامربوط را حذف کنید یا بر اساس سؤال تقسیم کنید.
- اگر سهمیه کافی نیست، اعلان‌های بازیابی مربوطه حساب را بررسی کنید.
چگونه مطالب را سازماندهی کنیم
ابتدا توضیحات وظیفه را ارائه دهید، سپس قطعات ضروری مورد نیاز برای تکمیل وظیفه را. برای گزارش‌های طولانی، ابتدا محدوده زمانی و کلمات کلیدی خطا را مشخص کنید؛ برای کد، ابتدا فایل‌های مرتبط و روابط فراخوانی را ارائه دهید. تاریخچه کامل را برای «اطمینان» بارها و بارها کپی نکنید؛ این کار فضای پردازش مسائل جدید را اشغال می‌کند و شناسایی نکات کلیدی را دشوارتر می‌سازد.