Безопасный доступ к локальной LLM по API
Практический разбор темы «безопасный доступ к локальной llm по api»: как ограничивать сеть, аутентификацию, журналы и допустимые клиенты и применить это в рабочем продукте.
Тег · 10 материалов
#безопасность
Материалы из разных направлений, связанные одной рабочей практикой.
Защитные ограничения вокруг генеративной модели
Многоуровневые guardrails для генеративного приложения: входные проверки, доступ к данным и инструментам, контроль ответа, безопасный отказ и измерение ошибок фильтрации.
Иерархия инструкций и конфликты в промптах
Практический разбор темы «иерархия инструкций и конфликты в промптах»: как распознавать конфликтующие указания и проектировать предсказуемое разрешение и применить это в рабочем продукте.
Как защищать ИИ от prompt injection и вредных инструкций
Многоуровневая защита LLM-приложений от прямых и косвенных prompt injection: доверительные границы, инструменты, данные и контроль действий.
Как ограничивать действия ИИ-агента
Практический разбор темы «как ограничивать действия ии-агента»: как вводить разрешения, лимиты, подтверждения и изолированную среду и применить это в рабочем продукте.
Как тестировать агента в изолированной среде
Практический разбор темы «как тестировать агента в изолированной среде»: как проверять последовательности действий на безопасных копиях систем и применить это в рабочем продукте.
Корпоративная политика использования генеративного ИИ
Практический разбор темы «корпоративная политика использования генеративного ии»: как задать правила работы с данными, моделями, результатами и внешними сервисами и применить это в рабочем продукте.
Права доступа и утечки данных в RAG
Практический разбор темы «права доступа и утечки данных в rag»: как соблюдать ограничения видимости на каждом этапе поиска и генерации и применить это в рабочем продукте.
Проверка крайних случаев в LLM-продукте
Практический разбор темы «проверка крайних случаев в llm-продукте»: как системно тестировать длинные, пустые, конфликтные и вредоносные входы и применить это в рабочем продукте.
Red teaming как проверка устойчивости ИИ-продуктов
Организация red teaming для ИИ-продукта: цели, модель угроз, сценарии атак, безопасная среда, триаж находок и повторная проверка.