Тег · 1 материалов

#KV-кэш

Материалы из разных направлений, связанные одной рабочей практикой.

LLM9 мин

Контекстное окно локальной модели на практике

Практический разбор темы «контекстное окно локальной модели на практике»: как оценивать фактическую полезную длину контекста и потребление памяти и применить это в рабочем продукте.