Што је контекст и како се разликује од квота рачуна?
Разумевање капацитета модела за обраду материјала одједном у поређењу с кумулативном употребом.
Контекст је материјал који се обрађује у тренутном кругу
Контекст укључује тренутно питање, релевантан садржај из разговора, као и текст из датотека и резултате алата унесене у модел. Његов капацитет је ограничен, тако да чак и кратко питање може досећи границу због дугог претходног разговора или великог излаза.
Токен је јединица којом систем мери дужину текста и није једнак броју кинеских знакова. Исти број знакова у коду, енглеском и кинеском тексту може да представља различит број токена.
Квота рачуна је друга врста ограничења
Дневне квоте захтева или месечна ограничења употребе фокусирају се на употребу рачуна током одређеног временског раздобља. Скраћивање материјала може помоћи у смањењу притиска на контекст, али неће одмах вратити искоришћену месечну квоту; чекање на опоравак квоте такође неће аутоматски скратити прекомерно дуг унос.
На пример, кратко попратно питање допуњено великом количином историјских записа може имати свој капацитет углавном заузет записима. Задржавање записа релевантних за тренутно временско раздобље, а затим назначавање да су други делови изостављени, може помоћи моделу да се усредоточи на проблем, а такође вам олакшати проверу да ли је анализа обухватила потребне услове.
- Прво проверите да ли је порука о грешци навела да је садржај предуг или квота недовољна.
- Ако је садржај предуг, уклоните небитан материјал или сегментирајте по питању.
- Ако квота није довољна, проверите одговарајуће упуте за опоравак рачуна.
Како организовати материјале
Прво наведите опис задатка, затим неопходне делове материјала. За дугу евиденцију прво наведите временски распон и кључне речи грешке; за код наведите повезане датотеке и односе позива. Немојте поново лепити целу историју „за сваки случај“; то заузима простор за обраду новог проблема и отежава препознавање кључних тачака.