Клиентские чат-боты на базе современных языковых моделей часто дают сбой в стрессовых ситуациях: когда раздраженный клиент использует ненормативную лексику, фильтры безопасности API блокируют запрос или возвращают стандартную отписку об отказе в ответе. В результате конфликт разгорается с новой силой.
Практический кейс на vc.ru предлагает трехуровневую архитектуру защиты (3-Layer Defense), сохраняющую работоспособность бота в конфликтных диалогах:
- Программная санитизация (Pre-processing): Перед отправкой в нейросеть скрипт заменяет бранные слова маркерами эмоций (например,
[раздражение]). Фактура претензии (номер заказа, дата) сохраняется, но защитные триггеры API не активируются; - Ролевой фрейминг (System Prompt): Модели задается роль невозмутимого специалиста службы заботы. Запрещается поучать клиента, спорить или указывать на недопустимость тона. Главная цель — проявить сочувствие и выделить суть проблемы;
- Постобработка (Post-processing): Сгенерированный ответ проверяется на соответствие правилам вежливости и компенсационной политике.
Такой подход защищает бизнес от публичных скандалов: бот спокойно признает проблему, сообщает статус решения и предлагает бонус за неудобства, переводя диалог в конструктивное русло.
