● ХАРДКОДИНГ PRO

Гайд №11.
Память, контекст и RAG

Как сделать так, чтобы ИИ не начинал каждый раз с нуля, понимал твой проект и умел находить ответы в твоих документах.

КонтекстПамятьRAGБаза знаний6 промптов25 проверок

Гайд №11. Память, контекст и RAG для новичков

1. Почему ИИ вообще забывает?

Модель не обязана помнить всё, что ты когда-либо ей рассказывал. Перед каждым ответом она работает с тем набором информации, который система передала ей прямо сейчас.

По-человечески: если важная информация не попала в текущий контекст и не была сохранена во внешней памяти, для модели её как будто нет.

Главная ошибка: ожидать, что ИИ «сам должен помнить» то, что нигде явно не сохранено.

2. У памяти есть несколько уровней

Текущий разговор

То, что происходит прямо сейчас. Хорошо для текущей задачи, плохо для постоянных знаний.

Постоянные инструкции

Правила проекта: как работать, что нельзя делать, какой стиль использовать.

Структурированная память

Конкретные факты в понятных полях: клиент, проект, дата, статус, предпочтение.

База знаний + RAG

Большие объёмы документов, из которых перед ответом выбираются подходящие фрагменты.

Сильная система не пытается хранить всё одним способом. Разные виды информации должны жить в разных местах.

3. Контекст — это рабочий стол ИИ

Контекст — всё, что модель видит перед конкретным ответом: инструкции, текущий разговор, найденные документы, данные пользователя и результаты инструментов.

Полезный контекст

цель текущей задачи;
важные правила;
несколько релевантных документов;
актуальное состояние проекта.

Шум

старые нерелевантные сообщения;
дубли;
огромные документы целиком;
противоречащие инструкции.

Больше текста ≠ лучше. Хороший контекст — это нужная информация в нужный момент.

4. Что такое поиск по базе знаний (RAG)?

RAG — это схема, в которой ИИ перед ответом сначала ищет нужную информацию в твоих знаниях, а уже потом формирует ответ.

Вопрос→Поиск по знаниям→Подходящие фрагменты→ИИ→Ответ

Важно: RAG обычно не переобучает модель. Он просто даёт ей подходящие знания непосредственно перед ответом.

5. Как поиск по базе знаний (RAG) работает внутри

Ты загружаешь документы.
Система делит их на логические части.
Для частей создаётся представление их смысла.
Пользователь задаёт вопрос.
Система ищет фрагменты, близкие по смыслу.
Лучшие фрагменты передаются ИИ.
ИИ отвечает на их основе.

Нам не нужно тащить всю библиотеку в один запрос. Мы находим только несколько страниц, которые нужны сейчас.

6. Что выбрать: память, база данных или поиск по базе знаний (RAG)?

Тип информации	Лучший вариант
«Отвечай мне кратко и по-русски»	Постоянная инструкция
Имя клиента, тариф, статус сделки	Обычная структурированная база данных
100 PDF с регламентами	База знаний + RAG
Что мы обсуждали 5 сообщений назад	Текущий контекст
Устойчивое предпочтение пользователя	Долговременная память
Точная сумма баланса	Источник данных / база, а не память модели

Правило: точные изменяющиеся данные лучше получать из источника данных. Документы — через RAG. Правила — через инструкции. Контекст задачи — в текущем разговоре.

7. Где использовать память и поиск по базе знаний (RAG)

ИИ-ассистент проекта

Знает архитектуру, правила, решения и документацию.

Поддержка клиентов

Ищет ответы в базе инструкций и актуальных регламентах.

Корпоративная база знаний

Помогает находить нужную информацию без ручного поиска по папкам.

Аналитика

Находит связанные факты в отчётах, заметках и документах.

Личный ассистент

Помнит устойчивые предпочтения и использует твои знания.

Обучение

Отвечает по конкретным урокам, материалам и транскрипциям.

8. Подготовка документов важнее магии

Плохую базу знаний не спасёт даже сильная модель.

Хорошо

один документ — одна понятная тема;
есть дата и версия;
заголовки отражают смысл;
устаревшее помечено;
источник сохранён.

Плохо

10 копий одного файла;
старые и новые правила вперемешку;
огромный файл без структуры;
секреты внутри документов;
непонятно, какая версия актуальна.

9. Практический пример

Практический пример: документы и точный ответ

Представь, у тебя есть 50 документов проекта. Пользователь спрашивает: «Какие ограничения есть у этого API?»

50 документов→Поиск→3 релевантных фрагмента→ИИ→Ответ + источник

Правильный результат: ИИ не пересказывает всё подряд, а достаёт именно тот кусок документа, который отвечает на вопрос.

10. Как проверить, что поиск по базе знаний (RAG) реально работает

Фраза «RAG настроен» ничего не доказывает. Нужны тестовые вопросы.

Задай простой вопрос, ответ на который точно есть.
Проверь, какой фрагмент был найден.
Задай тот же вопрос другими словами.
Задай вопрос, где ответ лежит в другом документе.
Задай вопрос, ответа на который вообще нет.
Проверь, не начал ли ИИ придумывать.
Добавь устаревший документ и проверь приоритет новой версии.

RAG хорош не тогда, когда красиво отвечает, а когда стабильно находит правильные источники.

11. Частые ошибки

Частые ошибки при работе с памятью и RAG

Сохранять всё подряд. Память превращается в мусор.
Путать память с базой знаний. Это разные задачи.
Загружать огромные документы без структуры.
Не хранить источник и дату.
Не обновлять знания после изменения проекта.
Смешивать устаревшие и актуальные версии.
Ожидать, что RAG сам определит абсолютную истину.
Не тестировать поиск отдельно от качества ответа.

12. Непонятные слова простыми словами 😄

Используй эту таблицу как шпаргалку.

Термин	Простыми словами
Контекст	Информация, которую модель видит прямо сейчас перед ответом: текущий разговор, инструкции и переданные материалы.
Контекстное окно	Ограниченный объём текста и данных, который модель может одновременно учитывать.
Память	Информация, которую система сохраняет отдельно и может использовать позже.
RAG	Подход: сначала найти подходящие фрагменты в базе знаний, потом дать их ИИ для ответа.
База знаний	Набор документов и фактов, из которых система ищет полезную информацию.
Embedding / эмбеддинг	Числовое представление смысла текста, которое помогает искать похожие по смыслу фрагменты.
Векторный поиск	Поиск не только по одинаковым словам, а по смысловой близости.
Chunk / фрагмент	Небольшая логическая часть большого документа, которую можно отдельно найти и передать ИИ.
Metadata / метаданные	Дополнительные сведения о фрагменте: источник, дата, автор, раздел, версия.
Retrieval / поиск	Этап, когда система выбирает подходящие знания перед ответом.
Grounding	Опора ответа на конкретные источники и найденные данные.
Галлюцинация	Уверенный ответ ИИ, который звучит правдоподобно, но не подтверждён фактами.
Structured memory	Память в понятных полях: имя, проект, предпочтение, дата и т.д.
Session memory	Контекст текущей сессии или разговора.
Long-term memory	Информация, которую система хранит между разными сессиями.
Source / источник	Документ или запись, откуда взят факт.
Freshness / актуальность	Насколько информация свежая и не устарела.
Reranking	Дополнительная сортировка найденных фрагментов, чтобы наверх попали самые полезные.