期刊文献+
共找到4篇文章
< 1 >
每页显示 20 50 100
Adapter与Prompt Tuning微调方法研究综述 被引量:2
1
作者 林令德 刘纳 王正安 《计算机工程与应用》 CSCD 北大核心 2023年第2期12-21,共10页
文本挖掘是数据挖掘的一个分支学科,涵盖多种技术,其中自然语言处理技术是文本挖掘的核心工具之一,旨在帮助用户从海量数据中获取有用的信息。近年来,预训练模型对自然语言处理的研究和发展有重要的推动作用,预训练模型的微调方法也成... 文本挖掘是数据挖掘的一个分支学科,涵盖多种技术,其中自然语言处理技术是文本挖掘的核心工具之一,旨在帮助用户从海量数据中获取有用的信息。近年来,预训练模型对自然语言处理的研究和发展有重要的推动作用,预训练模型的微调方法也成为重要的研究领域。根据近年来预训练模型微调方法的相关文献,选择目前主流的Adapter与Prompt微调方法进行介绍。对自然语言处理的发展脉络进行简要梳理,分析目前预训练模型微调存在的问题与不足;介绍Adapter与Prompt两类微调方法,对两个研究方向中经典方法进行介绍,并从优缺点和性能等方面进行详细分析;进行总结归纳,阐述目前预训练模型的微调方法存在的局限性并讨论未来发展方向。 展开更多
关键词 文本挖掘 自然语言处理 深度学习 预训练模型 微调方法
下载PDF
自然语言处理中关于提示学习的研究进展
2
作者 范森 施水才 王洪俊 《软件导刊》 2024年第4期215-220,共6页
预训练语言模型的出现使处理自然语言处理任务模式发生了巨大变化,对预先训练好的模型进行微调以适应下游任务成为目前自然语言处理任务的主流模式。随着预训练模型越来越大,需要找到轻量化的替代全模型的微调方法,基于提示学习的微调... 预训练语言模型的出现使处理自然语言处理任务模式发生了巨大变化,对预先训练好的模型进行微调以适应下游任务成为目前自然语言处理任务的主流模式。随着预训练模型越来越大,需要找到轻量化的替代全模型的微调方法,基于提示学习的微调方法可以满足这一需求。对提示学习的研究进展进行总结,先描述了预训练语言模型与提示学习的关系,说明现在寻找替代传统微调方法的必要性,然后详细解释了基于提示学习微调模型的步骤,包括对提示模板的构建、答案搜索和答案映射,再对提示学习在自然语言处理领域的应用举例,最后对提示学习面临的挑战和未来可能的研究方向进行展望,以期对自然语言处理、预训练语言模型和提示学习相关领域的研究提供参考借鉴。 展开更多
关键词 提示学习 自然语言处理 微调方法 预训练语言模型 深度学习
下载PDF
大语言模型微调技术的研究综述
3
作者 张钦彤 王昱超 +2 位作者 王鹤羲 王俊鑫 陈海 《计算机工程与应用》 CSCD 北大核心 2024年第17期17-33,共17页
大型语言模型的崛起是深度学习领域的全新里程碑,而微调技术在优化模型性能方面的起到了关键作用。对大型语言模型微调技术进行了全面的综述,回顾了语言模型的统计语言模型、神经网络语言模型、预训练语言模型和大语言模型四个阶段的发... 大型语言模型的崛起是深度学习领域的全新里程碑,而微调技术在优化模型性能方面的起到了关键作用。对大型语言模型微调技术进行了全面的综述,回顾了语言模型的统计语言模型、神经网络语言模型、预训练语言模型和大语言模型四个阶段的发展历程和微调技术的基本概念,从经典参数微调、高效参数微调、提示微调和强化学习微调方法四大部分,探讨总结了各微调技术的原理与发展,并进行了一定的对比分析。最后,总结了当前微调技术的研究状况与发展重点,强调了该领域的潜在研究价值,并展望了未来的发展方向。 展开更多
关键词 大语言模型 微调方法 预训练模型 自然语言处理
下载PDF
单表对中方法的的实际运用与优化
4
作者 田亮 《装备维修技术》 2014年第3期29-34,共6页
本文详细阐述了单表找正的方法,作者依据实践经验从调整原理到计算方法、微调技巧、操作要领等方面进行优化使之简化成为通俗易懂、既能方便操作与记忆又能保证工作精度的一套有效、可行的办法。
关键词 方法 原理 微调 优化
下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部