期刊文献+
共找到2篇文章
< 1 >
每页显示 20 50 100
基于大语言模型的多模态社交媒体信息流行度预测研究
1
作者 王洁 王子 +1 位作者 彭岩 郝博文 《通信学报》 EI CSCD 北大核心 2024年第11期141-156,共16页
针对现有多模态社交媒体信息流行度预测算法对特征依赖强、泛化能力不足、面对少样本/冷启动环境表现不佳的问题,提出了一种基于大语言模型指令微调和人类对齐的多模态社交媒体流行度预测模型MultiSmpLLM。首先,定义面向冷启动用户的多... 针对现有多模态社交媒体信息流行度预测算法对特征依赖强、泛化能力不足、面对少样本/冷启动环境表现不佳的问题,提出了一种基于大语言模型指令微调和人类对齐的多模态社交媒体流行度预测模型MultiSmpLLM。首先,定义面向冷启动用户的多模态社交媒体流行度预测任务。其次,构建多模态微调指令,并分别通过低秩适配微调(LoRA)和冻结微调(Freeze)方法对大语言基座模型(Llama3)进行指令微调。最后,提出了一种改进直接偏好优化(DPO)的算法IDPOP,通过构造偏好数据,并对DPO损失函数施加由参数调节的惩罚项,解决了基于人类反馈的强化学习(RLHF)算法训练不稳定、不收敛,以及标准DPO在社交媒体流行度预测任务中产生错误优化的问题。实验结果表明,MultiSmpLLM显著优于传统多模态预测模型和GPT-4o等多模态大语言模型。 展开更多
关键词 大语言模型 流行度预测 指令微调 人类对齐
下载PDF
改进鲸鱼优化LightGBM的可解释性心脏病风险预测模型 被引量:2
2
作者 王洁 李金泽 +2 位作者 王子 周淑怡 彭岩 《北京邮电大学学报》 EI CSCD 北大核心 2023年第6期39-45,共7页
针对现有心脏病风险预测模型准确率较低且可解释性较差的问题,提出了一种改进鲸鱼优化轻量级梯度提升机(LightGBM)的可解释性心脏病风险预测模型。首先,使用深度自编码器有效地实现数据降维;然后,采用Halton序列初始化种群、非线性收敛... 针对现有心脏病风险预测模型准确率较低且可解释性较差的问题,提出了一种改进鲸鱼优化轻量级梯度提升机(LightGBM)的可解释性心脏病风险预测模型。首先,使用深度自编码器有效地实现数据降维;然后,采用Halton序列初始化种群、非线性收敛因子和动态螺旋更新等策略改进鲸鱼优化算法,以获取LightGBM超参数的全局最优解;最后,引入沙普利加性解释方法对该模型的重要特征进行可解释性分析。与其他主流降维方法及分类模型的对比实验结果表明,该模型具有更高的预测精度,能高效地提取心脏病风险的潜在特征。 展开更多
关键词 心脏病风险预测 深度自编码器 改进鲸鱼优化算法 轻量级梯度提升机 可解释性
原文传递
上一页 1 下一页 到第
使用帮助 返回顶部