Ассистент оператора на базе технологий искусственного интеллекта (LLM)

Ассистент оператора на базе технологий искусственного интеллекта (LLM) – это система, предназначенная для повышения качества обслуживания клиентов за счет поиска релевантной информации по запросу клиентов во внутренней Базе Знаний и генерации рекомендуемого ответа для пользователя системы.

Подобная функциональность достигается за счет:

Интеграции с внутренней Базой Знаний клиента;
Обучения на данных, доступных в Базе Знаний;
Генерации ответов посредством интеграции с большой языковой моделью \ моделями (LLM).

Ассистент предполагает функционирование под управлением LLM Конвейера Open WebUI и интеграцию с программой для ЭВМ Amber.

Бизнес-функции Системы

Система реализует следующие Бизнес-функции:

Извлечение и актуализация Знаний из подключаемых источников (внутренние порталы, файлы, сайты)
Формирование кластеров знаний для различных групп запросов (кластеры по Региону, Типу клиента, Типу использования Знаний)
Формирование ответов на запросы пользователей по сформированным Знаниям
Поддержка контекста разговора с пользователем при формировании ответов по Знаниям

Основные функциональные возможности:

1. Развертывания и интеграции:

Система может быть развернута в закрытом контуре;
Система интегрируется в программное обеспечение Онлайн-ЦОК на платформе Amber;
Система интегрируется с базой знаний Confluence;
Система обновляет знания на ежедневной основе через веб-сервис с помощью регламентного задания.

2. Интеллектуальная обработка запросов:

Система поддерживает обработку естественного языка для понимания запросов пользователей Системы и предоставления им релевантной информации;
Система автоматически определяет потребности пользователей на основе анализа их запросов, поступающих в неголосовые (текстовые) каналы и истории взаимодействия;
Система при составлении ответа учитывает контекст;
Система составляет ответы на вопросы в соответствии с регионом откуда поступает обращение и типом клиента. Для каждого региона и типа клиента может быть как общая база знаний, так и отдельная.

Технологический стек и системные требования

Минимальные требования к серверу:

CPU: 4 ядра, 2.0 ГГц
RAM: 128 ГБ
HDD: 200 ГБ
GPU: NVIDIA TESLA A10 (рекомендуется A100 для производительности)

Рекомендуемое программное обеспечение:

ОС: Astra Linux, RedOS, Ubuntu (иные дистрибутивы Linux)
LLM-конвейер и интерфейс: Open WebUI
LLM-движок: Ollama
Контейнеризация: Docker
СУБД: PostgreSQL (для платформы Amber BPM), ChromaDB (для векторного хранилища)
Языки программирования/платформы: Python, TypeScript, Go, .NET 7 (для платформы Онлайн-ЦОК)

Документация

Информация о стоимости

Базовая стоимость доступа к программному обеспечению «Ассистент оператора на базе технологий искусственного интеллекта (LLM)» начинается от 91 800 рублей в год и зависит от количества пользователей. Лицензирование Программного обеспечения производится по физическим или виртуальным рабочим местам пользователей. Для одного рабочего места пользователя, использующего программное обеспечение, требуется одна лицензия.

Итоговая стоимость определяется в зависимости от:

срока предоставления лицензии;
количества пользователей.

Индивидуальные услуги внедрения, разработки и сопровождения в стоимость лицензии не входят. Стоимость определяется индивидуально и фиксируется в договоре.

Техническая поддержка

Связаться со службой технической поддержки:

на сайт авторизованной сервисной службы support.vostok-electra.ru
по электронной почте mail.tmn@vostok-electra.ru

Свяжитесь с нами:

АО «ЭК «Восток».

107045, r. Москва, Просвирин пер, д. 4.

Тел.: +7 495 775-24-97

E-mail: mail.tmn@vostok-electra.ru