ЗАСТОСУВАННЯ ВЕЛИКИХ МОВНИХ МОДЕЛЕЙ ЯК ШАРУ МАРШРУТИЗАЦІЇ У БАГАТОКАНАЛЬНИХ МЕСЕНДЖЕР-СИСТЕМАХ
DOI:
https://doi.org/10.34185/1991-7848.itmm.2026.01.087Ключові слова:
великі мовні моделі, intent detection, маршрутизація повідомлень, tool use, middleware, омніканальна комунікація, CRM-інтеграціяАнотація
Компанії, що ведуть комунікацію з клієнтами через кілька месенджер-каналів, стикаються зі спільною проблемою: автоматично спрямувати кожне вхідне повідомлення до правильного обробника. Підходи на основі правил — фільтри ключових слів, кнопкові меню — не справляються з довільним введенням У роботі описано middleware-архітектуру, де велика мовна модель Claude 3 Haiku розташована між потоком повідомлень і бізнес-логікою: через механізм tool use вона класифікує намір та повертає структурований JSON безпосередньо шару маршрутизації. Система впроваджена у понад тисячі компаній, інтегрована з PipeDrive, HubSpot, Zoho CRM та іншими платформами. Помилки маршрутизації скоротилися з 35% до 4%.
Посилання
Brown T. et al. Language Models are Few-Shot Learners. Advances in NeurIPS. 2020. Vol. 33. P. 1877–1901.
Liu P. et al. Pre-train, Prompt, and Predict. ACM Computing Surveys. 2023. Vol. 55. No. 9. P. 1–35.
Schick T. et al. Toolformer: Language Models Can Teach Themselves to Use Tools. NeurIPS. 2023. Vol. 36.
Wei J. et al. Chain-of-Thought Prompting Elicits Reasoning in LLMs. NeurIPS. 2022. Vol. 35. P. 24824–24837.
