期刊文献+
共找到5篇文章
< 1 >
每页显示 20 50 100
Adapter与Prompt Tuning微调方法研究综述 被引量:2
1
作者 林令德 刘纳 王正安 《计算机工程与应用》 CSCD 北大核心 2023年第2期12-21,共10页
文本挖掘是数据挖掘的一个分支学科,涵盖多种技术,其中自然语言处理技术是文本挖掘的核心工具之一,旨在帮助用户从海量数据中获取有用的信息。近年来,预训练模型对自然语言处理的研究和发展有重要的推动作用,预训练模型的微调方法也成... 文本挖掘是数据挖掘的一个分支学科,涵盖多种技术,其中自然语言处理技术是文本挖掘的核心工具之一,旨在帮助用户从海量数据中获取有用的信息。近年来,预训练模型对自然语言处理的研究和发展有重要的推动作用,预训练模型的微调方法也成为重要的研究领域。根据近年来预训练模型微调方法的相关文献,选择目前主流的Adapter与Prompt微调方法进行介绍。对自然语言处理的发展脉络进行简要梳理,分析目前预训练模型微调存在的问题与不足;介绍Adapter与Prompt两类微调方法,对两个研究方向中经典方法进行介绍,并从优缺点和性能等方面进行详细分析;进行总结归纳,阐述目前预训练模型的微调方法存在的局限性并讨论未来发展方向。 展开更多
关键词 文本挖掘 自然语言处理 深度学习 预训练模型 微调方法
下载PDF
自然语言处理中关于提示学习的研究进展
2
作者 范森 施水才 王洪俊 《软件导刊》 2024年第4期215-220,共6页
预训练语言模型的出现使处理自然语言处理任务模式发生了巨大变化,对预先训练好的模型进行微调以适应下游任务成为目前自然语言处理任务的主流模式。随着预训练模型越来越大,需要找到轻量化的替代全模型的微调方法,基于提示学习的微调... 预训练语言模型的出现使处理自然语言处理任务模式发生了巨大变化,对预先训练好的模型进行微调以适应下游任务成为目前自然语言处理任务的主流模式。随着预训练模型越来越大,需要找到轻量化的替代全模型的微调方法,基于提示学习的微调方法可以满足这一需求。对提示学习的研究进展进行总结,先描述了预训练语言模型与提示学习的关系,说明现在寻找替代传统微调方法的必要性,然后详细解释了基于提示学习微调模型的步骤,包括对提示模板的构建、答案搜索和答案映射,再对提示学习在自然语言处理领域的应用举例,最后对提示学习面临的挑战和未来可能的研究方向进行展望,以期对自然语言处理、预训练语言模型和提示学习相关领域的研究提供参考借鉴。 展开更多
关键词 提示学习 自然语言处理 微调方法 预训练语言模型 深度学习
下载PDF
大语言模型微调技术的研究综述
3
作者 张钦彤 王昱超 +2 位作者 王鹤羲 王俊鑫 陈海 《计算机工程与应用》 CSCD 北大核心 2024年第17期17-33,共17页
大型语言模型的崛起是深度学习领域的全新里程碑,而微调技术在优化模型性能方面的起到了关键作用。对大型语言模型微调技术进行了全面的综述,回顾了语言模型的统计语言模型、神经网络语言模型、预训练语言模型和大语言模型四个阶段的发... 大型语言模型的崛起是深度学习领域的全新里程碑,而微调技术在优化模型性能方面的起到了关键作用。对大型语言模型微调技术进行了全面的综述,回顾了语言模型的统计语言模型、神经网络语言模型、预训练语言模型和大语言模型四个阶段的发展历程和微调技术的基本概念,从经典参数微调、高效参数微调、提示微调和强化学习微调方法四大部分,探讨总结了各微调技术的原理与发展,并进行了一定的对比分析。最后,总结了当前微调技术的研究状况与发展重点,强调了该领域的潜在研究价值,并展望了未来的发展方向。 展开更多
关键词 大语言模型 微调方法 预训练模型 自然语言处理
下载PDF
射频线绕电感的制作及实测 被引量:1
4
作者 汪弈舟 黄明 +2 位作者 张轩 李国诚 徐泽琨 《工业技术创新》 2019年第1期82-85,共4页
在射频领域使用电感时,自谐振频点低会影响电路射频特性。在射频环境中,针对普通贴片电感有较大的寄生电阻,导致电感自谐振频率点低的缺点,提出了一种射频空芯线绕电感的制作原理与过程;利用LC串联谐振原理,提出了测试绕线电感的实际电... 在射频领域使用电感时,自谐振频点低会影响电路射频特性。在射频环境中,针对普通贴片电感有较大的寄生电阻,导致电感自谐振频率点低的缺点,提出了一种射频空芯线绕电感的制作原理与过程;利用LC串联谐振原理,提出了测试绕线电感的实际电感量及微调方法。实验表明:制作的电感具有设计测试简单、成本低廉、自谐振频率点高的优势,在射频电路中具有很好的推广利用价值。 展开更多
关键词 射频 线绕电感 自谐振频率 LC串联谐振 微调方法
原文传递
基于预测控制的混沌系统参数微调控制方法 被引量:7
5
作者 李冬梅 王正欧 《信息与控制》 CSCD 北大核心 2003年第5期426-430,共5页
本文将预测控制理论引入混沌系统的控制研究中 ,提出一种基于预测控制的混沌系统参数微调控制方法 ,通过对控制参数进行微调 ,将模型未知时的混沌运动稳定到系统的不稳定不动点处 .与现有同类方法相比 ,本控制系统具有快得多的响应速度 ... 本文将预测控制理论引入混沌系统的控制研究中 ,提出一种基于预测控制的混沌系统参数微调控制方法 ,通过对控制参数进行微调 ,将模型未知时的混沌运动稳定到系统的不稳定不动点处 .与现有同类方法相比 ,本控制系统具有快得多的响应速度 ,需要较短的时间就能实现混沌系统的控制 .本方法能够控制超混沌系统 ,算法简便 ,控制算法的收敛性和控制系统的稳定性能够保证 ,理论分析和仿真实验都表明了本方法的有效性 . 展开更多
关键词 混沌系统 预测控制 参数微调控制方法 数学模型
下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部