Bağlam Nedir ve Hesap Kotalarından Nasıl Farklıdır?
Modelin bir seferde işleyebildiği materyal kapasitesi ile biriken kullanımı anlayın.
Bağlam, Bu Turda İşlenecek Materyaldir
Bağlam; mevcut soruyu, konuşmanın ilgili içeriğini ve modele giren dosya ve araç sonucu metinlerini içerir. Kapasitesi sınırlıdır; kısa soru bile uzun geçmiş konuşma veya büyük çıktı nedeniyle sınıra yaklaşabilir.
Token, sistemin metin uzunluğu hesaplama birimidir ve Çince karakter sayısıyla aynı değildir. Kod, İngilizce ve Çincede aynı sayıda karakter farklı sayıda token oluşturabilir.
Hesap Kotası Farklı Bir Limittir
Günlük istek kotaları veya aylık kullanım sınırları hesabın belli süredeki kullanımını ölçer. Materyali kısaltmak bağlam baskısını azaltabilir, ama bitmiş aylık kotayı hemen yenilemez; kota yenilenmesini beklemek de aşırı uzun girdiyi otomatik kısaltmaz.
Örneğin çok miktarda geçmiş günlük eklenmiş kısa bir takip sorusunda kapasitenin çoğunu günlükler kaplayabilir. Önce mevcut zaman aralığıyla ilgili kayıtları koruyup diğer bölümlerin çıkarıldığını belirtmek modelin soruna odaklanmasını ve analizin gerekli koşulları kapsayıp kapsamadığını kontrol etmenizi kolaylaştırır.
- Önce hata mesajının içeriğin fazla uzun olduğunu mu, kotanın yetersiz olduğunu mu söylediğini doğrulayın.
- İçerik çok uzunsa ilgisiz materyali çıkarın veya soruya göre bölün.
- Kota yetersizse hesabın ilgili yenilenme uyarılarını kontrol edin.
Materyaller Nasıl Düzenlenir?
Önce görevi açıklayın, sonra tamamlamak için gereken temel parçaları verin. Uzun günlüklerde önce zaman aralığını ve hata anahtar kelimelerini belirtin; kodda önce ilgili dosyaları ve çağrı ilişkilerini sağlayın. “Garanti olsun” diye tüm geçmişi tekrar tekrar yapıştırmayın; bu yeni konuların işleneceği alanı doldurur ve önemli noktaları bulmayı zorlaştırır.