מהו הקשר וכיצד הוא שונה ממכסות חשבון?
הבנת יכולת המודל לעבד חומר בבת אחת לעומת שימוש מצטבר.
הקשר הוא החומר שיש לעבד בסבב הנוכחי
הקשר כולל את השאלה הנוכחית, תוכן רלוונטי מהשיחה, כמו גם טקסט מקבצים ותוצאות כלים שהוזנו למודל. הקיבולת שלו מוגבלת, כך שגם שאלה קצרה עשויה להתקרב למגבלה עקב שיחה קודמת ארוכה או פלט גדול.
אסימון הוא יחידת המערכת לחישוב אורך טקסט ואינו שווה למספר התווים הסיניים. אותו מספר תווים בקוד, באנגלית ובסינית עשויים להיות בעלי ספירות אסימונים שונות.
מכסת חשבון היא סוג שונה של מגבלה
מכסות בקשה יומיות או מגבלות שימוש חודשיות מתמקדות בשימוש החשבון לאורך תקופת זמן. קיצור החומר יכול לעזור להפחית לחץ הקשר אך לא ישחזר מיידית מכסה חודשית שנגמרה; המתנה להתאוששות מכסה גם לא תקצר אוטומטית קלט ארוך מדי.
לדוגמה, שאלה המשך קצרה בתוספת כמות גדולה של יומני היסטוריה עשויה למלא את הקיבולת שלה בעיקר על ידי היומנים. שמירת רשומות הרלוונטיות לתקופת הזמן הנוכחית תחילה, ואז ציון שחלקים אחרים הושמטו, יכולה לעזור למודל להתמקד בבעיה וגם להקל עליך לבדוק אם הניתוח מכסה תנאים הכרחיים.
- ראשית, אשר אם הודעת השגיאה מציינת שהתוכן ארוך מדי או שהמכסה אינה מספקת.
- אם התוכן ארוך מדי, הסר חומר לא רלוונטי או פלח לפי שאלה.
- אם המכסה אינה מספקת, בדוק את הנחיות השחזור המתאימות בחשבון.
כיצד לארגן חומרים
ספק תחילה את תיאור המשימה, ואז את הקטעים החיוניים הדרושים להשלמת המשימה. עבור יומנים ארוכים, ציין תחילה את טווח הזמן ומילות המפתח של השגיאה; עבור קוד, ספק תחילה קבצים קשורים ויחסי קריאה. אל תדביק שוב ושוב את כל ההיסטוריה לצורך 'ביטוח'; זה יתפוס מקום לעיבוד בעיות חדשות ויהפוך נקודות מפתח לקשות יותר לזיהוי.