-
题名基于混合架构的大语言模型智能问答系统研究
- 1
-
-
作者
陶晓英
-
机构
中国联通上海分公司
-
出处
《邮电设计技术》
2024年第5期48-55,共8页
-
文摘
探讨了大语言模型在企业政企营销知识智能问答方向的研究与应用。在开发技术上,采用检索增强生成技术[1],结合大模型微调、意图识别和向量库实现问答F1值初步达到78.21%,构建闭环知识图谱体系,将问答F1值提升到92.36%。在工程上,通过vLLM大模型加速机制提升系统性能,采取数据安全技术保障系统安全性,通过API及微服务模块化架构提升系统适配性及扩展性,并将系统应用于行业生产中,有助于加速大模型在企业中的应用落地。
-
关键词
大语言模型
检索增强生成
知识图谱
vllm
-
Keywords
Large language model
Retrieval-augmented generation
Knowledge graph
vllm
-
分类号
TP311
[自动化与计算机技术—计算机软件与理论]
-
