Рабочая постановка темы «память ИИ-агента» нужна, чтобы разделить краткосрочный контекст выполнения, долговременные пользовательские сведения и технические журналы, назначив для каждого слоя цель и срок хранения. В центре методики находятся «рабочая история текущего запуска», действие «определить необходимость каждого типа памяти» и признак «каждая запись имеет назначение».
OpenAI Agents SDK предоставляет sessions как слой сохранения истории между запусками агента. основание
В практике «память ИИ-агента» редакционные рекомендации отделены от подтверждённых сведений. Риск описывается через «долговременные факты о пользователе», а доказательство темы «память ИИ-агента» сохраняется в объекте «журнал запуска».
MemGPT исследует иерархию памяти и перенос информации между ограниченным контекстом модели и внешним хранилищем. основание
Цель и границы применения
Тема «память ИИ-агента» начинается с решения «выпуск версии», связанного с компонентом «рабочая история текущего запуска». Пока действие «задать срок и основание хранения» не записано, измерения темы «память ИИ-агента» не задают понятного управленческого последствия.
Допущение для «память ИИ-агента» хранится рядом с компонентом «резюме прошлых взаимодействий» и действием «минимизировать сохраняемые поля». После изменения компонента «резюме прошлых взаимодействий» команда повторяет действие «минимизировать сохраняемые поля», не перенося прежний вывод автоматически.
Ограничение «память ИИ-агента» формулируют до просмотра ответов и связывают с риском «вся переписка хранится бессрочно». Это не позволяет менять критерий «источник факта различим» ради удобного результата.
Безопасный исход для «память ИИ-агента» описывает действие «разделить идентификаторы и содержимое» при нехватке основания. Владелец сохраняет его в артефакте «контрольный набор».
NIST рассматривает приватность данных и происхождение информации как существенные риски генеративного ИИ. основание
Состав проверяемого контура
Элемент 1: рабочая история текущего запуска. Контур «память ИИ-агента» разделяет действие «определить необходимость каждого типа памяти» и подтверждает его признаком «срок хранения реализован технически»; вход и версия остаются доступными для повторения.
Элемент 2: долговременные факты о пользователе. Контур «память ИИ-агента» проверяет действие «минимизировать сохраняемые поля» и подтверждает его признаком «чувствительные значения исключаются»; вход и версия остаются доступными для повторения.
Элемент 3: резюме прошлых взаимодействий. Контур «память ИИ-агента» сопоставляет действие «разделить идентификаторы и содержимое» и подтверждает его признаком «каждая запись имеет назначение»; вход и версия остаются доступными для повторения.
Элемент 4: результаты инструментов. Контур «память ИИ-агента» ограничивает действие «задать срок и основание хранения» и подтверждает его признаком «срок хранения реализован технически»; вход и версия остаются доступными для повторения.
Элемент 5: секреты и персональные данные. Контур «память ИИ-агента» документирует действие «дать пользователю просмотр и удаление» и подтверждает его признаком «чувствительные значения исключаются»; вход и версия остаются доступными для повторения.
Элемент 6: политика удаления. Контур «память ИИ-агента» фиксирует действие «проверять восстановленный контекст перед использованием» и подтверждает его признаком «каждая запись имеет назначение»; входные данные и редакция рассматриваются сохраняются для повторения.
Порядок работы и повторной проверки
Шаг 1: определить необходимость каждого типа памяти. В теме «память ИИ-агента» действие относится к компоненту «рабочая история текущего запуска»; контрольная проверка ищет дефект «память разных пользователей смешивается» и сохраняет наблюдаемый результат.
Шаг 2: минимизировать сохраняемые поля. В теме «память ИИ-агента» действие относится к компоненту «долговременные факты о пользователе»; контрольная проверка ищет дефект «удаление не распространяется на производные данные» и сохраняет наблюдаемый результат.
Шаг 3: разделить идентификаторы и содержимое. В теме «память ИИ-агента» действие относится к компоненту «резюме прошлых взаимодействий»; контрольная проверка ищет дефект «вся переписка хранится бессрочно» и сохраняет наблюдаемый результат.
Шаг 4: задать срок и основание хранения. В теме «память ИИ-агента» действие относится к компоненту «результаты инструментов»; контрольная проверка ищет дефект «вывод модели считается фактом о пользователе» и сохраняет наблюдаемый результат.
Шаг 5: дать пользователю просмотр и удаление. В теме «память ИИ-агента» действие относится к компоненту «секреты и персональные данные»; контрольная проверка ищет дефект «секрет попадает в долговременное резюме» и сохраняет наблюдаемый результат.
Шаг 6: проверять восстановленный контекст перед использованием. В теме «память ИИ-агента» действие относится к компоненту «политика удаления»; контрольная проверка ищет дефект «память разных пользователей смешивается» и сохраняет наблюдаемый результат.
Ошибки и диагностические признаки
Сбой 1: вся переписка хранится бессрочно. Для «память ИИ-агента» дефект связывается с компонентом «резюме прошлых взаимодействий» и воспроизводимым входом; исправление подтверждает повтор действия «задать срок и основание хранения» на контрольной группе.
Сбой 2: вывод модели считается фактом о пользователе. Для «память ИИ-агента» дефект связывается с компонентом «секреты и персональные данные» и воспроизводимым входом; исправление подтверждает повтор действия «дать пользователю просмотр и удаление» на контрольной группе.
Сбой 3: секрет попадает в долговременное резюме. Для «память ИИ-агента» дефект связывается с компонентом «рабочая история текущего запуска» и воспроизводимым входом; исправление подтверждает повтор действия «проверять восстановленный контекст перед использованием» на контрольной группе.
Сбой 4: память разных пользователей смешивается. Для «память ИИ-агента» дефект связывается с компонентом «резюме прошлых взаимодействий» и воспроизводимым входом; исправление подтверждает повтор действия «определить необходимость каждого типа памяти» на контрольной группе.
Сбой 5: удаление не распространяется на производные данные. Для «память ИИ-агента» дефект связывается с компонентом «секреты и персональные данные» и воспроизводимым входом; исправление подтверждает повтор действия «минимизировать сохраняемые поля» на контрольной группе.
Практический пример
Условный пример для темы «память ИИ-агента»: Ассистент проекта хранит название выбранного рабочего пространства и предпочтительный формат отчёта, но не переносит содержимое закрытых документов в общую память и удаляет временные результаты после задачи.
На этапе 1 компонент «рабочая история текущего запуска» проходит действие «определить необходимость каждого типа памяти». В примере «память ИИ-агента» результат принимает критерий «каждая запись имеет назначение», а риск «вся переписка хранится бессрочно» проверяется отдельно.
На этапе 2 компонент «долговременные факты о пользователе» проходит действие «минимизировать сохраняемые поля». В примере «память ИИ-агента» результат принимает критерий «источник факта различим», а риск «вывод модели считается фактом о пользователе» проверяется отдельно.
На этапе 3 компонент «резюме прошлых взаимодействий» проходит действие «разделить идентификаторы и содержимое». В примере «память ИИ-агента» результат принимает критерий «срок хранения реализован технически», а риск «секрет попадает в долговременное резюме» проверяется отдельно.
На этапе 4 компонент «результаты инструментов» проходит действие «задать срок и основание хранения». В примере «память ИИ-агента» результат принимает критерий «память изолирована по субъекту», а риск «память разных пользователей смешивается» проверяется отдельно.
На этапе 5 компонент «секреты и персональные данные» проходит действие «дать пользователю просмотр и удаление». В примере «память ИИ-агента» результат принимает критерий «чувствительные значения исключаются», а риск «удаление не распространяется на производные данные» проверяется отдельно.
Финальная запись примера «память ИИ-агента» объединяет запрос, конфигурацию и отклонение «удаление не распространяется на производные данные». Владелец использует её для решения «коррекцию промпта» и будущей регрессии.
Критерии качества
Качество «память ИИ-агента» оценивают независимыми признаками. Сводный балл помогает навигации, но дефект «секрет попадает в долговременное резюме» остаётся отдельным блокером в документе «версию конфигурации».
Критерий 1: каждая запись имеет назначение. Практика «память ИИ-агента» применяет признак к компоненту «долговременные факты о пользователе»; действие «разделить идентификаторы и содержимое» выполняется для «память ИИ-агента» до выпуска и сохраняется вместе с версией компонента «долговременные факты о пользователе».
Критерий 2: источник факта различим. Практика «память ИИ-агента» применяет признак к компоненту «резюме прошлых взаимодействий»; действие «дать пользователю просмотр и удаление» выполняется для «память ИИ-агента» до выпуска и сохраняется вместе с версией компонента «резюме прошлых взаимодействий».
Критерий 3: срок хранения реализован технически. Практика «память ИИ-агента» применяет признак к компоненту «результаты инструментов»; действие «определить необходимость каждого типа памяти» выполняется для «память ИИ-агента» до выпуска и сохраняется вместе с версией компонента «результаты инструментов».
Критерий 4: память изолирована по субъекту. Практика «память ИИ-агента» применяет признак к компоненту «секреты и персональные данные»; действие «разделить идентификаторы и содержимое» выполняется для «память ИИ-агента» до выпуска и сохраняется вместе с версией компонента «секреты и персональные данные».
Критерий 5: чувствительные значения исключаются. Практика «память ИИ-агента» применяет признак к компоненту «политика удаления»; действие «дать пользователю просмотр и удаление» выполняется для «память ИИ-агента» до выпуска и сохраняется вместе с версией компонента «политика удаления».
Критерий 6: ошибочный факт можно исправить или удалить. Практика «память ИИ-агента» применяет признак к компоненту «рабочая история текущего запуска»; действие «определить необходимость каждого типа памяти» выполняется для «память ИИ-агента» до выпуска и сохраняется вместе с версией компонента «рабочая история текущего запуска».
OWASP предупреждает о раскрытии чувствительной информации через входы, контекст, ответы и интеграции LLM-приложения. основание
Ограничения применимости
Ограничения «память ИИ-агента» публикуются вместе с критерием «память изолирована по субъекту», поскольку вывод действует лишь для конфигурации элемента «секреты и персональные данные». Его изменение возвращает результат в статус непроверенного.
Ограничение 1: полезность памяти зависит от качества извлечения. В теме «память ИИ-агента» оно относится к компоненту «резюме прошлых взаимодействий»; перенос вывода «память ИИ-агента» на другой домен требует решения «изменение архитектуры» по компоненту «резюме прошлых взаимодействий».
Ограничение 2: резюме может искажать исходный разговор. В теме «память ИИ-агента» оно относится к компоненту «результаты инструментов»; перенос вывода «память ИИ-агента» на другой домен требует решения «коррекцию промпта» по компоненту «результаты инструментов».
Ограничение 3: регуляторные требования различаются. В теме «память ИИ-агента» оно относится к компоненту «секреты и персональные данные»; перенос вывода «память ИИ-агента» на другой домен требует решения «расширение полномочий» по компоненту «секреты и персональные данные».
Ограничение 4: удаление из резервных копий имеет отдельный цикл. В теме «память ИИ-агента» оно относится к компоненту «политика удаления»; перенос вывода «память ИИ-агента» на другой домен требует решения «обновление тестов» по компоненту «политика удаления».
Ограничение 5: долгая история увеличивает риск prompt injection. В теме «память ИИ-агента» оно относится к компоненту «рабочая история текущего запуска»; перенос вывода «память ИИ-агента» на другой домен требует решения «эскалацию человеку» по компоненту «рабочая история текущего запуска».
Высокорисковое применение «память ИИ-агента» дополняется экспертизой по компоненту «политика удаления». Методика «память ИИ — с учётом темы «Память агента: что хранить и когда забывать» —-агента» организует проверку, не подменяя правовые и отраслевые полномочия.
Вывод
Практика «память ИИ-агента» связывает компонент «рабочая история текущего запуска» с решением владельца. Наблюдаемый результат «память ИИ-агента», версия элемента «рабочая история текущего запуска» и запись «экспертное решение» образуют минимальный комплект.
Для «память ИИ-агента» команда сохраняет причину «память разных пользователей смешивается» вместе с баллом компонента «политика удаления». Связка «память ИИ-агента» отделяет случайную вариативность и направляет адресное исправление.
Итоговый принцип «память ИИ-агента»: автоматизация компонента «резюме прошлых взаимодействий» ускоряет измерение, а границы риска подтверждает критерий «ошибочный факт можно исправить или удалить» вне модели.
