Содержание:
2. Принципы организации диалога, история общения
Чат-боты все шире используются в конфигурациях построенных на базе 1С, будь это HR-служба в «1С: Управление персоналом», служба поддержки покупателей в «1С: Управление торговлей» или сервисы внутрикорпоративного взаимодействия.
В статье рассмотрим, какие методические моменты необходимо учесть при разработке чат-ботов с использованием больших языковых моделей?
1. Роли в 1С: Предприятие
В рамках чата взаимодействие ведется в контексте ролей. Есть две очевидные роли – это «User» и «Assistent»:
· User – задает вопросы – это пользовательский промт, в который оборачиваются вопросы пользователя;
· Assistent – отвечает на вопросы.
Существует еще одна неочевидная роль – «System»:
· System – задает правила чата – это промт, в который оборачиваются контекст, граничные условия, правила и ограничения чата, например, «Представь, что ты работник HR-службы. Ответы нужно давать кратко, без пояснений».
Системный промт позволяет выделить наиболее релевантные области знаний модели.
Работая с моделью через API, системный промт зачастую можно опускать, тогда LLM создаст его сама, на свое усмотрение.
2. Принципы организации диалога, история общения
Простейший чат работает в режиме «вопрос – ответ».
Более сложным режимом является «диалог». Здесь следует иметь в виду, что в общем случае модель не запоминает историю общения, поэтому, чтобы модель не теряла контекст диалога, ей в каждом следующем вопросе необходимо передавать всю предыдущую историю вопросов и ответов.
Полезным следствием использование режима диалога с постоянной передачей истории разговора является возможность «выводить модель на результат» при помощи уточняющих вопросов или уточняющих/ограничивающих фраз.
На стороне 1С простейшей формой хранения истории общения является массив. Если требуется хранить историю разговоров разрезе каких-либо параметров – сеансов, пользователей, моделей, … - то можно использовать регистры сведений.
Summary:
Организую диалог с ИИ, важно помнить о размере контекстного окна (например, 4 тысячи токенов). История общения отнимает в нем место, доступное для следующих вопросов, поэтому не обязательно отправлять оригинал истории «как есть», можно «сжимать» историю, готовя так называемое summary – краткое содержание/резюме.
Этот подход также полезен, если необходимо подправить «ход мышления» модели, если она «пошла не туда».
Особенности проектирования чат-ботов, рассмотренные в статье универсальны и пригодны для любой конфигурации 1С.
Специалисты нашей компании помогут вам в построении чат-ботов: спроектируют систему, подготовят промты для LLM, выполнят техническую реализацию в составе вашей 1С-конфигурации.
Специалист компании ООО "Кодерлайн"
Игорь Борисенко
