زمینه (Context) چیست و چه تفاوتی با سهمیه حساب (Account Quotas) دارد؟
درک ظرفیت مدل برای پردازش مطالب در یک زمان در مقابل استفاده تجمعی.
زمینه، مطالب پردازش شده در دور فعلی است
زمینه شامل سؤال فعلی، محتوای مرتبط از مکالمه، و همچنین متن فایل‌ها و نتایج ابزار ورودی به مدل است. ظرفیت آن محدود است، بنابراین حتی یک سؤال کوتاه نیز ممکن است به دلیل مکالمه طولانی قبلی یا خروجی بزرگ به حد مجاز نزدیک شود.
توکن واحد سیستم برای محاسبه طول متن است و با تعداد کاراکترهای چینی برابر نیست. همین تعداد کاراکتر در کد، انگلیسی و چینی ممکن است تعداد توکن‌های متفاوتی داشته باشد.
سهمیه حساب نوع دیگری از محدودیت است
سهمیه‌های درخواست روزانه یا محدودیت‌های استفاده ماهانه بر استفاده حساب در یک دوره زمانی تمرکز دارند. کوتاه کردن مطالب می‌تواند به کاهش فشار زمینه کمک کند اما سهمیه ماهانه مصرف شده را فوراً بازیابی نمی‌کند؛ انتظار برای بازیابی سهمیه نیز ورودی بیش از حد طولانی را به طور خودکار کوتاه نمی‌کند.
به عنوان مثال، یک سؤال پیگیری کوتاه که با مقدار زیادی گزارش تاریخی همراه شده است، ممکن است ظرفیت آن عمدتاً توسط گزارش‌ها اشغال شود. نگه‌داشتن سوابق مرتبط با دوره زمانی فعلی، سپس نشان دادن اینکه بخش‌های دیگر حذف شده‌اند، می‌تواند به مدل کمک کند تا بر مشکل تمرکز کند و همچنین بررسی اینکه آیا تجزیه و تحلیل شرایط لازم را پوشش می‌دهد برای شما آسان‌تر می‌شود.
- ابتدا تأیید کنید که پیام خطا بیان می‌کند محتوا خیلی طولانی است یا سهمیه کافی نیست.
- اگر محتوا خیلی طولانی است، مطالب نامربوط را حذف کنید یا بر اساس سؤال بخش‌بندی کنید.
- اگر سهمیه کافی نیست، به اعلان‌های بازیابی مربوطه حساب خود مراجعه کنید.
چگونه مطالب را سازماندهی کنیم
ابتدا توضیحات وظیفه را ارائه دهید، سپس قطعات ضروری مورد نیاز برای تکمیل وظیفه را. برای گزارش‌های طولانی، ابتدا محدوده زمانی و کلمات کلیدی خطا را مشخص کنید؛ برای کد، ابتدا فایل‌های مرتبط و روابط فراخوانی را ارائه دهید. تاریخچه کامل را برای «اطمینان» مکرراً کپی نکنید؛ این کار فضای پردازش مسائل جدید را اشغال می‌کند و شناسایی نکات کلیدی را دشوارتر می‌سازد.