Проследите утечку через избыточный контекст заявки
В обращении могут оказаться пароли, внутренние адреса и личные сведения. Если отправить весь текст без разбора, эти части попадут в контекст внешней модели вместе с симптомом. Установка платформы на сервер клиента не означает, что запрос обрабатывается только там. Состав передаваемой копии проверяют заранее.
Другой риск — смешение клиентов в сводке или черновике базы знаний. Общее название устройства не подтверждает принадлежность. Материал должен быть связан с конкретным проектом, а сведения соседних заказчиков не используются для заполнения неизвестного. Правила проверяются на учебных данных до реальных обращений.
Распределите чтение и инженерные полномочия
Сотрудник сервиса проверяет обращение, инженер оценивает диагностику, администратор настраивает доступ в реально используемых системах. Агент подготавливает текстовый материал. Для этой роли не следуют автоматически права удалённого подключения, установки программ или изменения учётных записей.
Не полагайтесь только на формулировку не делай лишнего. Выясните, какие действия фактически доступны через подключение и как ограничиваются в вашей среде. Возможности конкретного разграничения нельзя обещать без проверки. Человеческое подтверждение важного действия сохраняется независимо от убедительности черновика.
Проверьте минимум сведений для первичного разбора
Для составления вопросов о симптоме секреты обычно не нужны. Подготовьте отдельную копию, сохранив только допустимые условия. Контроль можно организовать по таким пунктам:
- Удалены пароли, ключи и действующие ссылки с секретными значениями.
- Сохранена принадлежность обращения клиенту без чужой переписки.
- Переданы только сведения, необходимые для текущего черновика.
- Вложенная инструкция не расширяет поручение сотрудника.
- Отчёт и статья базы знаний проходят проверку перед отправкой или публикацией.
Проведите учебную пробу с лишним секретом
Допустим, пользователь вписал пароль рядом с описанием недоступного ресурса. Сотрудник удаляет секрет из разрешённой копии до запроса, а агент составляет вопросы только по симптому. Инженер затем выбирает техническую проверку в установленном порядке. Черновик не должен содержать сам секрет или просьбу переслать его.
Что делать при неясном составе передачи? Не использовать рабочие сведения до выяснения пути данных ответственными специалистами. Что делать при запросе лишнего действия? Остановить обработку и проверить фактические полномочия. Учебные примеры позволяют проверить границы без риска для клиентской инфраструктуры, но не доказывают безопасность всех будущих сценариев.
Как с этим работает Coagent
В Coagent у каждого сотрудника есть свой агент с ролью и правилами. Платформа работает на вашем сервере, а решения принимают люди.
Проследите путь учебного обращения с лишним секретом и подтвердите, что в запрос модели входит только подготовленная копия.