Што такое кантэкст і чым ён адрозніваецца ад квот акаўнта?
Разуменне здольнасці мадэлі апрацоўваць матэрыял адначасова ў параўнанні з сукупным выкарыстаннем.
Кантэкст - гэта матэрыял для апрацоўкі ў бягучым раундзе
Кантэкст уключае бягучае пытанне, адпаведны змест з размовы, а таксама тэкст з файлаў і вывадаў інструментаў, уведзеных у мадэль. Яго ёмістасць абмежаваная, таму нават кароткае пытанне можа наблізіцца да мяжы з-за доўгай папярэдняй размовы або вялікага вываду.
Токен - гэта адзінка сістэмы для разліку даўжыні тэксту, і ён не роўны колькасці кітайскіх іерогліфаў. Аднакавая колькасць сімвалаў у кодзе, англійскай і кітайскай мовах можа мець розную колькасць токенаў.
Квота акаўнта - гэта іншы тып абмежавання
Штодзённыя квоты запытаў або месячныя ліміты выкарыстання сканцэнтраваны на выкарыстанні акаўнта за пэўны перыяд часу. Скарачэнне матэрыялу можа дапамагчы паменшыць ціск на кантэкст, але не адновіць адразу выкарыстаную месячную квоту; чаканне аднаўлення квоты таксама не скароціць занадта доўгі ўвод аўтаматычна.
Напрыклад, кароткі наступны запыт, дапоўнены вялікай колькасцю гістарычных журналаў, можа мець сваю ёмістасць, у асноўным, занятую журналамі. Захаванне запісаў, звязаных з бягучым перыядам часу, спачатку, а затым пазначэнне таго, што іншыя часткі апушчаны, можа дапамагчы мадэлі засяродзіцца на праблеме, а таксама палегчыць вам праверку таго, ці ахоплівае аналіз неабходныя ўмовы.
- Спачатку пацвердзіце, ці паведамленне пра памылку пазначае, што змест занадта доўгі, ці квота недастатковая.
- Калі змест занадта доўгі, выдаліце нерэлевантны матэрыял або разбіце па пытаннях.
- Калі квота недастатковая, праверце адпаведныя падказкі па аднаўленні акаўнта.
Як арганізаваць матэрыялы
Спачатку прадастаўце апісанне задачы, затым неабходныя фрагменты для выканання задачы. Для доўгіх журналаў спачатку ўкажыце дыяпазон часу і ключавыя словы памылак; для кода прадастаўце спачатку звязаныя файлы і адносіны выклікаў. Не паўтарайце ўсю гісторыю для "страхоўкі"; гэта зойме месца для апрацоўкі новых праблем і зробіць ключавыя моманты цяжэйшымі для ідэнтыфікацыі.