חלון הקשר
חלון ההקשר (context window) הוא כמות הטקסט שמודל AI יכול 'לראות' בו-זמנית — הפרומפט, הקבצים וההיסטוריה — נמדד בטוקנים. כל מה שמחוץ לחלון לא קיים מבחינת המודל. ניהול נכון של מה שנכנס לחלון הוא ההבדל בין תשובה מדויקת לניחוש.
מחקרים הראו תופעת 'lost in the middle': מודלים זוכרים טוב את תחילת וסוף ההקשר, ופחות את האמצע — לכן ממקמים את החשוב בקצוות.