Группа ЦРТ реализует эксперименты по внедрению GigaChat

Группа компаний ЦРТ реализует эксперименты по применению LLM — больших языковых моделей, включая GigaChat, в речевой аналитике и диалоговых ассистентах для изучения возможностей их применения в контактных центрах. Об этом компания сообщила на технологической конференции Сбера SmartDev-2023. "Рынок разговорного искусственного интеллекта развивается в сторону расширения технологических возможностей. Реагируя на потребности, следуя принципам клиентоцентричности, мы инвестируем в эксперименты с самыми современными нейросетями, чтобы помочь бизнесу и госсектору умножить эффективность применения речевых технологий. Мы уже провели ряд экспериментов по внедрению сервиса GigaChat от Сбера в речевую аналитику и диалоговых ассистентов. Эксперименты демонстрируют, что с помощью комбинации больших языковых моделей с другими моделями ряд процессов можно упростить, оптимизировать, а также они могут помочь создавать диалоговых ассистентов, сокращая ручное обучение и заменить ряд предыдущих алгоритмов. При этом лучших результатов удается достичь за счет сбалансированной работы — используя возможности LLM, но опираясь на массив накопленных знаний, человеческого капитала и опыта", рассказал Дмитрий Дырмовский, генеральный директор группы компаний ЦРТ. Диалоговые ассистенты уже давно научились определять тематику обращения, перезванивать по просьбе клиента, реагировать на перебивание — и при этом лишь целевых фраз, грамотно работать с контекстом и менять его по ходу диалога, а также выделять сразу несколько сущностей из одной фразы. На российском рынке с помощью технологий ЦРТ реализовано более 240 проектов внедрения текстовых и голосовых роботов, более 30 проектов по речевой аналитике. В одном из экспериментов команда ЦРТ смоделировала вопрос клиента телеком-компании в контактный центр на тему возможности скачать фильм в HD-качестве. Большие языковые модели могут помочь построить полноценный ответ: учесть информацию о пользователе из личного кабинета (выяснить текущий баланс), получить информацию о тарифе (данные из базы знаний), произвести математические действия, рассчитать доступный объем скачивания и предложить оптимальный вариант решения вопроса. Комбинация больших языковых моделей с другими моделями уже сейчас может облегчить реализацию (или даже предложить мгновенное наилучшее решение) целого спектра аналитических задач, демонстрирует эффективность в кейсах суммаризации — обобщения, сокращения, выделение сути и смысла из большого объема, помогает выявить негатив, оценить коммуникацию. При этом может потребоваться массив вводной информации для контекста, возможны разные ответы на одни вопросы, а при формулировке логических задач средней сложности случаются сомнительные интерпретации. Результаты экспериментов продемонстрировали, что GigaChat может значительно упростить работу по ряду направлений и открыть целый спектр возможностей. Ссылка на источник