Apakah Konteks dan Bagaimana Bezanya daripada Kuota Akaun?
Fahami kapasiti model memproses bahan sekali gus berbanding penggunaan terkumpul.
Konteks Ialah Bahan untuk Diproses dalam Pusingan Semasa
Konteks merangkumi soalan semasa, kandungan berkaitan dalam perbualan serta teks fail dan hasil alat yang dimasukkan ke model. Kapasitinya terhad, jadi soalan pendek pun boleh menghampiri had disebabkan perbualan terdahulu yang panjang atau hasil besar.
Token ialah unit sistem untuk mengira panjang teks, bukan bilangan aksara Cina. Bilangan aksara sama dalam kod, bahasa Inggeris dan bahasa Cina boleh mempunyai jumlah token berbeza.
Kuota Akaun Ialah Had Jenis Lain
Kuota permintaan harian atau had penggunaan bulanan menumpukan penggunaan akaun sepanjang sesuatu tempoh. Memendekkan bahan boleh mengurangkan tekanan konteks tetapi tidak memulihkan kuota bulanan yang habis serta-merta; menunggu kuota pulih juga tidak memendekkan input terlalu panjang secara automatik.
Contohnya, soalan susulan ringkas dengan banyak log sejarah mungkin menggunakan kapasiti terutamanya untuk log. Kekalkan rekod yang berkaitan dengan tempoh semasa dahulu, kemudian nyatakan bahagian lain dibuang, supaya model menumpukan masalah dan anda mudah menyemak sama ada analisis meliputi syarat perlu.
- Sahkan dahulu sama ada mesej ralat menyatakan kandungan terlalu panjang atau kuota tidak cukup.
- Jika kandungan terlalu panjang, buang bahan tidak berkaitan atau bahagikan mengikut soalan.
- Jika kuota tidak cukup, semak pemberitahuan pemulihan akaun yang berkaitan.
Cara Menyusun Bahan
Berikan penerangan tugas dahulu, kemudian petikan penting untuk menyelesaikannya. Untuk log panjang, nyatakan julat masa dan kata kunci ralat dahulu; untuk kod, berikan fail berkaitan dan hubungan panggilannya. Jangan menampal seluruh sejarah berulang kali ‘untuk berjaga-jaga’; ini menggunakan ruang pemprosesan isu baharu dan menyukarkan pengenalpastian perkara utama.