زمینه (Context) چیست و چگونه با سهمیه حساب متفاوت است؟

زمینه، مطالب مورد پردازش در دور فعلی است

زمینه شامل سؤال فعلی، محتوای مرتبط از مکالمه، و همچنین متن فایل‌ها و نتایج ابزار ورودی به مدل است. ظرفیت آن محدود است، بنابراین حتی یک سؤال کوتاه نیز ممکن است به دلیل مکالمه طولانی قبلی یا خروجی بزرگ به حد مجاز نزدیک شود.

توکن واحد سیستم برای محاسبه طول متن است و با تعداد حروف چینی برابر نیست. تعداد یکسان حروف در کد، انگلیسی و چینی ممکن است تعداد توکن‌های متفاوتی داشته باشد.

سهمیه حساب نوع متفاوتی از محدودیت است

سهمیه‌های درخواست روزانه یا محدودیت‌های استفاده ماهانه بر استفاده حساب در یک دوره زمانی تمرکز دارند. کوتاه کردن مطالب می‌تواند به کاهش فشار زمینه کمک کند اما سهمیه ماهانه مصرف شده را فوراً بازیابی نمی‌کند؛ انتظار برای بازیابی سهمیه نیز ورودی بیش از حد طولانی را به طور خودکار کوتاه نمی‌کند.

به عنوان مثال، یک سؤال پیگیری کوتاه که با مقدار زیادی از گزارش‌های تاریخی ضمیمه شده است، ممکن است ظرفیت آن عمدتاً توسط گزارش‌ها اشغال شود. اولویت دادن به حفظ سوابق مرتبط با دوره زمانی فعلی، سپس نشان دادن اینکه بخش‌های دیگر حذف شده‌اند، می‌تواند به مدل کمک کند تا بر مشکل تمرکز کند و همچنین بررسی اینکه آیا تجزیه و تحلیل شرایط لازم را پوشش می‌دهد برای شما آسان‌تر می‌شود.

1. ابتدا تأیید کنید که آیا پیام خطا بیان می‌کند که محتوا خیلی طولانی است یا سهمیه ناکافی است.
2. اگر محتوا خیلی طولانی است، مطالب نامربوط را حذف کنید یا بر اساس سؤال بخش‌بندی کنید.
3. اگر سهمیه ناکافی است، اعلان‌های بازیابی مربوطه حساب را بررسی کنید.

چگونه مطالب را سازماندهی کنیم

ابتدا شرح وظیفه را ارائه دهید، سپس قطعات ضروری مورد نیاز برای تکمیل وظیفه را. برای گزارش‌های طولانی، ابتدا محدوده زمانی و کلمات کلیدی خطا را مشخص کنید؛ برای کد، ابتدا فایل‌های مرتبط و روابط فراخوانی را ارائه دهید. تاریخچه کامل را برای «اطمینان» بارها و بارها تکرار نکنید؛ این کار فضای پردازش مسائل جدید را اشغال می‌کند و شناسایی نکات کلیدی را دشوار می‌سازد.