Автоответ отправляет заранее заданный текст по простому событию. Чат-бот ведёт сценарий по правилам и ветвлениям. AI-черновик создаёт вариант ответа из контекста и источников, но может ошибаться — поэтому в поддержке безопаснее начинать с режима Copilot, где оператор проверяет и отправляет ответ сам. Эти инструменты нельзя оценивать как одну и ту же «автоматизацию».
Чем свободнее система генерирует ответ, тем важнее источники, ограничения, журнал решений, измерение качества и право человека остановить отправку.
Автоответ: предсказуемо, но узко
Автоответ срабатывает на понятное событие: новое обращение вне рабочих часов, подтверждение получения или просьба выбрать тему. Его текст заранее утверждён, поэтому риск выдуманного факта низок. Основной риск — неподходящий момент: клиент сообщает об аварии, а получает бодрое стандартное сообщение без маршрута эскалации.
Используйте автоответ для подтверждения и навигации, а не для обещания решения.
Чат-бот: управляемый сценарий
Правиловый бот задаёт вопросы, проверяет выбор и переводит пользователя по веткам. Он подходит для стабильных задач: статус, категория обращения, сбор обязательных данных, запись или передача в команду. Качество зависит от полноты сценария и удобного выхода к человеку.
Плохой бот пытается удержать клиента любой ценой. Хороший распознаёт границу сценария, объясняет следующий шаг и передаёт уже собранный контекст оператору.
AI-черновик: гибкость с обязательной проверкой
AI-черновик использует содержание диалога и разрешённую базу знаний, чтобы предложить ответ. Он может помочь с формулировкой, поиском нужного фрагмента и локализацией. Но генеративная модель способна уверенно написать неверное, смешать версии документа или пропустить важное ограничение.
В Joop AI базовый безопасный сценарий — черновик с цитатами, который оператор принимает, редактирует или отклоняет. Автоматическая отправка не включается как незаметное продолжение Copilot: это отдельный уровень риска и отдельное решение.
Карта рисков
- Фактическая ошибка: ответ не подтверждён источником.
- Устаревание: модель или база использует прошлую версию условия.
- Чувствительные данные: в запрос попадает лишняя персональная информация.
- Prompt injection: текст клиента пытается изменить инструкции системы.
- Неправильная уверенность: оператор принимает красивый ответ без проверки.
- Скрытая деградация: качество меняется после модели, настроек или базы знаний.
Минимальный набор контроля
- разрешённые источники и цитаты рядом с черновиком;
- запрет автоматической отправки на первом этапе;
- скрытие лишних персональных данных;
- версии промпта, модели и базы знаний;
- кнопки принять, изменить, отклонить и передать человеку;
- тестовый набор на русском, кыргызском и английском;
- аварийный выключатель и безопасный откат.
Как измерять пользу, а не впечатление
Смотрите долю принятых, отредактированных и отклонённых черновиков, время до отправки, частоту обязательной эскалации и результаты проверочного набора. Высокая доля принятия сама по себе не доказывает правильность: нужен независимый контроль фактов и выборочная ручная проверка.
Безопасный порядок внедрения
- Начните с автоответов на простые события.
- Добавьте правиловый сбор темы и передачу оператору.
- Запустите AI только как черновик для небольшой группы.
- Соберите ошибки и создайте eval-набор.
- Расширяйте темы и команды после прохождения quality gate.
- Автономный ответ рассматривайте отдельно и только для низкорисковых сценариев.
Частые вопросы
AI-черновик видит все данные компании?
Не должен. Доступ ограничивается конкретной организацией, разрешёнными источниками и настройками сценария.
Можно ли измерить качество до запуска?
Да. Создайте проверяемые кейсы с обязательными фактами, запрещёнными утверждениями, ожидаемым handoff и источниками, затем сравнивайте версии на одном наборе.
Когда можно включить автоотправку?
Только как отдельный контролируемый выпуск после оценки риска, тестов, пилота, мониторинга и готового отката. Для важных консультаций человеческая проверка может оставаться обязательной.
Источники и методология
Подход Joop.kg опирается на функции управления риском «govern, map, measure, manage» из NIST AI Risk Management Framework и рекомендации NIST Generative AI Profile по тестированию и управлению специфическими рисками генеративного AI. Это не сертификация NIST и не гарантия безошибочности.