Контекст ойнаси
Context window
Модел бир мартада кўра оладиган матн ҳажми; бутун суҳбат, кўрсатмалар ва файллар шунга сиғиши керак.
Модел сиз билан гаплашганда ўрганмайди ва ҳеч нарсани эслаб қолмайди. Унда суҳбатни қандай "эслайди"? Сир оддий: ҳар сафар бутун суҳбатингиз унга қайтадан берилади. Модел бир мартада қабул қила оладиган матн ҳажмини контекст ойнаси дейишади. У токенларда ўлчанади.
Уни дафтар деб тасаввур қилинг. Ҳар бир хабарингиз, моделнинг жавоблари, тизим кўрсатмалари ва сиз юклаган файллар шу дафтарга ёзилади. Модел ҳар сафар жавоб ёзишдан олдин дафтарни бошидан охиригача ўқиб чиқади. Суҳбат узайган сари дафтар тўлиб боради. Тўлиб қолса, эски ёзувлар сиғмай қолади ёки қисқартирилади.
Мисол: янги суҳбатда "Исмим нима?" деб сўрасангиз, модел билмайди. Шу суҳбатда олдинроқ исмингизни айтган бўлсангиз, билади, чунки исм дафтарда ёзилган.
"Хотира" функцияси ҳам шу дафтарга боғлиқ. Баъзи иловалар сиз ҳақингизда қисқа эслатмалар сақлайди ва янги суҳбатда уларни дафтарнинг бошига автоматик қўшади. Модел эса барибир ўзгармайди.
Амалий маслаҳат: суҳбат жуда узайиб, модел аввалги келишувларни унута бошласа, асосий гапларни қисқа ёзиб, янги суҳбат очинг.
Хато тушунча: "ойна катта бўлса, модел ҳаммасини бирдек яхши эслайди". Жуда узун матнда ҳам модел баъзи жойларни эътибордан четда қолдириши мумкин.