СУЧАСНІ ТЕНДЕЦІЇ РОЗВИТКУ ОБРОБКИ ПРИРОДНОЇ МОВИ: ЕВОЛЮЦІЯ, АРХІТЕКТУРИ ТА СФЕРИ ЗАСТОСУВАННЯ
DOI:
https://doi.org/10.34185/1562-9945-3-164-2026-21Ключові слова:
обробка природної мови, великі мовні моделі, трансформерні архітектури, нейроеволюція, аналіз тональності, бібліометричний аналіз, штучний інтелект, машинее навчанняАнотація
Актуальність теми дослідження зумовлена безпрецедентним зростанням обсягів неструктурованих текстових даних. Постановка проблеми полягає у вичерпанні можливостей традиційних комп'ютерних систем, заснованих на жорстких правилах, та необхідності переходу до складних архітектур для забезпечення семантичного розуміння тексту. Метою дослідження є проведення вичерпного аналітичного огляду методів обробки природної мови (NLP), відстеження їхньої архітектурної еволюції від статистичних моделей до сучасних парадигм глибинного навчання та великих мовних моделей (LLMs). Застосовано методи системного, порівняльного та розширеного бібліометричного аналізу. У результаті дослідження систематизовано перехід до трансформерних архітектур та великих моделей міркування (LRMs), а також проаналізовано інноваційні нейроеволюційні методи оптимізації. Ключовими висновками є підтвердження ефективності інтеграції сучасних методів NLP у сфери охорони здоров’я, інженерії програмного забезпечення та бізнес-аналітики, а також артикуляція критичних викликів: обчислювальної складності, алгоритмічної упередженості та необхідності переходу до нейросимволічного штучного інтелекту.
Посилання
ElectroIQ. (2025). Natural Language Processing Statistics By Market, Revenue And Trends (2025). Retrieved from https://electroiq.com/stats/natural-language-processing-statistics/
Strengths and Weaknesses of LLM-Based and Rule-Based NLP Technologies and Their Potential Synergies. (2025). Electronics, 14(15), 3064. Retrieved from https://www.mdpi.com/2079-9292/14/15/3064
Golec, J., & Hachaj, T. (2025). Ten Natural Language Processing Tasks with Generative Artificial Intelligence. Applied Sciences, 15(16), 9057. Retrieved from https://www.mdpi.com/2076-3417/15/16/9057
Manzoni, L., Jakobovic, D., Mariot, L., Picek, S., & Castelli, M. (2020). Towards an evolutionary-based approach for natural language processing. arXiv preprint arXiv:2004.13832. Retrieved from https://arxiv.org/abs/2004.13832
Natural language processing for analyzing online customer reviews: a survey, taxonomy, and open research challenges. (2024). PeerJ Comput. Sci. Retrieved from https://pmc.ncbi.nlm.nih.gov/articles/PMC11323031/
Vaswani, A., et al. (2017). Attention Is All You Need. arXiv preprint arXiv:1706.03762. Retrieved from https://arxiv.org/abs/1706.03762
A 2D Semantic-Aware Position Encoding for Vision Transformers. (2025). arXiv preprint arXiv:2505.09466. Retrieved from https://arxiv.org/html/2505.09466v1
Diko, A., Avola, D., Cascio, M., & Cinque, L. (2024). ReViT: Enhancing Vision Transformers Feature Diversity with Attention Residual Connections. arXiv preprint arXiv:2402.11301. Retrieved from https://arxiv.org/abs/2402.11301
Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2018). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. arXiv preprint arXiv:1810.04805. Retrieved from https://arxiv.org/abs/1810.04805
Yenduri, G., et al. (2023). Generative Pre-trained Transformer: A Comprehensive Review on Enabling Technologies, Potential Applications, Emerging Challenges, and Future Directions. arXiv preprint arXiv:2305.10435. Retrieved from https://arxiv.org/abs/2305.10435
DeepSeek-AI, et al. (2025). DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning. arXiv preprint arXiv:2501.12948. Retrieved from https://arxiv.org/abs/2501.12948
Bai, S., et al. (2025). Qwen2.5-VL Technical Report. arXiv preprint arXiv:2502.13923. Retrieved from https://arxiv.org/abs/2502.13923
Sun, W., et al. (2025). Speed Always Wins: A Survey on Efficient Architectures for Large Language Models. arXiv preprint arXiv:2508.09834. Retrieved from https://arxiv.org/abs/2508.09834
Enhancing Neural Network Training Through Neuroevolutionary Models: A Hybrid Approach to Classification Optimization. (2025). Mathematics, 13(7), 1114. Retrieved from https://www.mdpi.com/2227-7390/13/7/1114
PubMed Article. (2024). PMID: 38502633. Retrieved from https://pubmed.ncbi.nlm.nih.gov/38502633/
Searching for Efficient Transformers for Language Modeling. (2021). Advances in Neural Information Processing Systems (NeurIPS). Retrieved from https://papers.neurips.cc/paper_files/paper/2021/file/2f3c6a4cd8af177f6456e7e51a916ff3-Paper.pdf
Evolutionary Neural Architecture Search for Transformer in Knowledge Tracing. (2024). OpenReview. Retrieved from https://openreview.net/pdf?id=G14N38AjpU
Wang, C., et al. (2025). When Large Language Models Meet Evolutionary Algorithms: Potential Enhancements and Challenges. Science and Technology Review. Retrieved from https://pmc.ncbi.nlm.nih.gov/articles/PMC11948732/
Rahman, S., Shanto, H. K., Koana, U. A., & Danish, S. M. (2025). Automated Research Article Classification and Recommendation Using NLP and ML. arXiv preprint arXiv:2510.05495. Retrieved from https://arxiv.org/html/2510.05495v1
Improving Systematic Review Updates With Natural Language Processing Through Abstract Component Classification and Selection: Algorithm Development and Validation. (2025). Retrieved from https://pmc.ncbi.nlm.nih.gov/articles/PMC11986382/
Lieberum, et al. (2024). Large language models for conducting systematic reviews: on the rise, but not yet ready for use – a scoping review. medRxiv. Retrieved from https://www.medrxiv.org/content/10.1101/2024.12.19.24319326v1.full.pdf
A Systematic Literature Review on Using Natural Language Processing in Software Requirements Engineering. (2024). Electronics, 13(11), 2055. Retrieved from https://www.mdpi.com/2079-9292/13/11/2055
Comparative Analysis of NLP-Based Models for Company Classification. (2024). Information, 15(2), 77. Retrieved from https://www.mdpi.com/2078-2489/15/2/77
Hung, C., & Kumar, S. (2025). Natural language processing in impact assessment: a review of applications and concerns. Impact Assessment and Project Appraisal. Retrieved from https://www.tandfonline.com/doi/full/10.1080/14615517.2026.2620186
Scientific Journal of Engineering Research (SJER). Retrieved from https://journal.futuristech.co.id/index.php/sjer/article/view/6
Завантаження
Опубліковано
Номер
Розділ
Ліцензія
Авторське право (c) 2026 Системні технології
Ця робота ліцензується відповідно до ліцензії Creative Commons Attribution 4.0 International License.
