Kontekst nədir və o, hesab limitlərindən necə fərqlənir?
Modelin materialı bir dəfəyə emal etmə qabiliyyətini kümülatif istifadə ilə müqayisədə anlayın.
Kontekst cari raundda emal ediləcək materialdır
Kontekstə cari sual, söhbətdən əlaqəli məzmun, həmçinin fayllardan və alət nəticələrindən modelə daxil edilmiş mətn daxildir. Onun tutumu məhduddur, buna görə də qısa bir sual belə uzun əvvəlki söhbət və ya böyük çıxış səbəbindən limitə yaxınlaşa bilər.
Token mətn uzunluğunu hesablamaq üçün sistemin vahididir və Çin simvollarının sayına bərabər deyil. Kod, ingilis və çin dillərində eyni sayda simvol fərqli token sayına malik ola bilər.
Hesab limiti başqa bir məhdudiyyət növüdür
Günlük tələb limitləri və ya aylıq istifadə limitləri hesabın müəyyən bir dövr ərzində istifadəsinə diqqət yetirir. Materialı qısaltmaq kontekst təzyiqini azaltmağa kömək edə bilər, lakin istifadə olunmuş aylıq limiti dərhal bərpa etməyəcək; limitin bərpasını gözləmək də həddindən artıq uzun daxil etməni avtomatik olaraq qısaltmayacaq.
Məsələn, böyük həcmli tarix logları ilə əlavə edilmiş qısa bir sonrakı sual, tutumunun əsasən loglar tərəfindən tutulduğu ola bilər. Cari dövrə aid qeydləri əvvəlcə saxlamaq, sonra digər hissələrin buraxıldığını göstərmək, modelin problemə fokuslanmasına kömək edəcək və həmçinin sizin analizdə zəruri şərtlərin olub-olmadığını yoxlamanızı asanlaşdıracaq.
- İlk növbədə, səhv mesajının məzmunun çox uzun və ya limitin kifayət etmədiyi barədə xəbərdarlıq etdiyini təsdiqləyin.
- Məzmun çox uzundursa, əlaqəsiz materialı silin və ya suala görə seqmentləşdirin.
- Limit kifayət deyilsə, hesabın müvafiq bərpa təlimatlarını yoxlayın.
Materialları necə təşkil etmək olar
Əvvəlcə tapşırıq təsvirini, sonra tapşırığı yerinə yetirmək üçün lazım olan vacib fraqmentləri təqdim edin. Uzun loglar üçün əvvəlcə vaxt aralığını və səhv açar sözlərini, kod üçün isə əlaqəli faylları və çağırış əlaqələrini əvvəlcə təqdim edin. “Sığorta” üçün bütün tarixi təkrarlanan şəkildə yapışdırmayın; bu, yeni məsələlərin həlli üçün yer tutacaq və əsas məqamları müəyyənləşdirməyi çətinləşdirəcək.