Τι είναι το Πλαίσιο (Context) και πώς διαφέρει από τα Όρια Λογαριασμού;
Κατανόηση της ικανότητας του μοντέλου να επεξεργάζεται υλικό ταυτόχρονα έναντι της σωρευτικής χρήσης.
Το πλαίσιο είναι το υλικό που θα επεξεργαστεί στον τρέχοντα γύρο
Το πλαίσιο περιλαμβάνει την τρέχουσα ερώτηση, σχετικό περιεχόμενο από τη συνομιλία, καθώς και κείμενο από αρχεία και αποτελέσματα εργαλείων που εισάγονται στο μοντέλο. Η χωρητικότητά του είναι περιορισμένη, οπότε ακόμη και μια σύντομη ερώτηση μπορεί να πλησιάσει το όριο λόγω μιας μακράς προηγούμενης συνομιλίας ή μεγάλης εξόδου.
Ένα διακριτικό (token) είναι η μονάδα του συστήματος για τον υπολογισμό του μήκους κειμένου και δεν ισούται με τον αριθμό των κινεζικών χαρακτήρων. Ο ίδιος αριθμός χαρακτήρων σε κώδικα, αγγλικά και κινεζικά μπορεί να έχει διαφορετικές μετρήσεις διακριτικών.
Το όριο του λογαριασμού είναι ένα διαφορετικό είδος περιορισμού
Τα ημερήσια όρια αιτήσεων ή τα μηνιαία όρια χρήσης εστιάζουν στη χρήση του λογαριασμού σε μια χρονική περίοδο. Η συντόμευση του υλικού μπορεί να βοηθήσει στη μείωση της πίεσης του πλαισίου, αλλά δεν θα αποκαταστήσει άμεσα ένα εξαντλημένο μηνιαίο όριο. η αναμονή για την ανάκτηση του ορίου επίσης δεν θα συντομεύσει αυτόματα μια υπερβολικά μεγάλη είσοδο.
Για παράδειγμα, μια σύντομη ερώτηση παρακολούθησης που συνοδεύεται από μεγάλο όγκο ιστορικών αρχείων καταγραφής μπορεί να έχει τη χωρητικότητά της που καταλαμβάνεται κυρίως από τα αρχεία καταγραφής. Η διατήρηση αρχείων που σχετίζονται με την τρέχουσα χρονική περίοδο πρώτα, και στη συνέχεια η ένδειξη ότι άλλα μέρη παραλείπονται, μπορεί να βοηθήσει το μοντέλο να εστιάσει στο πρόβλημα και επίσης να διευκολύνει τον έλεγχο εάν η ανάλυση καλύπτει τις απαραίτητες συνθήκες.
- Πρώτα επιβεβαιώστε εάν το μήνυμα λάθους δηλώνει ότι το περιεχόμενο είναι πολύ μεγάλο ή το όριο είναι ανεπαρκές.
- Εάν το περιεχόμενο είναι πολύ μεγάλο, αφαιρέστε άσχετο υλικό ή τμηματοποιήστε ανά ερώτηση.
- Εάν το όριο είναι ανεπαρκές, ελέγξτε τις αντίστοιχες προτροπές ανάκτησης του λογαριασμού.
Πώς να οργανώσετε υλικά
Παρέχετε πρώτα την περιγραφή της εργασίας, στη συνέχεια τα ουσιώδη θραύσματα που απαιτούνται για την ολοκλήρωση της εργασίας. Για μεγάλα αρχεία καταγραφής, καθορίστε πρώτα το χρονικό εύρος και τις λέξεις-κλειδιά σφαλμάτων. για κώδικα, παρέχετε πρώτα σχετικά αρχεία και σχέσεις κλήσεων. Μην επικολλάτε επανειλημμένα ολόκληρο το ιστορικό για 'ασφάλεια'. αυτό θα καταλάβει χώρο για την επεξεργασία νέων ζητημάτων και θα κάνει τα βασικά σημεία πιο δύσκολο να εντοπιστούν.