大型语言模型:原理、实现与发展 被引量：6

1

作者 舒文韬 李睿潇 +2 位作者 孙天祥 黄萱菁 邱锡鹏 《计算机研究与发展》 EI CSCD 北大核心 2024年第2期351-361,共11页

近年来,大型语言模型的出现和发展对自然语言处理和人工智能领域产生了变革性影响.随着不断增大模型参数量和训练数据量,语言模型的文本建模困惑度以可预测的形式降低,在各类自然语言处理任务上的表现也持续提升.因此,增加语言模型的参... 近年来,大型语言模型的出现和发展对自然语言处理和人工智能领域产生了变革性影响.随着不断增大模型参数量和训练数据量,语言模型的文本建模困惑度以可预测的形式降低,在各类自然语言处理任务上的表现也持续提升.因此,增加语言模型的参数和数据规模成为提升系统智能水平富有前景的途径.首先回顾了大型语言模型的基本定义,从模型表现和算力需求的角度给出了“大型”语言模型的界定标准.其次,从数据、算法、模型3个维度梳理了大型语言模型的发展历程及规律,展示了不同阶段各个维度的规模化如何推动语言模型的发展.接着,考察了大型语言模型所表现出的涌现能力,介绍了思维链、情景学习和指令遵循等关键涌现能力的相关研究和应用现状.最后,展望了大型语言模型的未来发展和技术挑战. 展开更多

关键词 自然语言处理 神经网络 大型语言模型 预训练 对齐

下载PDF 职称材料

改性SiO_(2)气凝胶聚氨酯复合涂层的制备及耐蚀性能研究 被引量：1

2

作者 李丹鸿 杨腾逊 +4 位作者 孙天翔 李兴霖冒 马程成 张玥 陈守刚 《中国腐蚀与防护学报》 CAS CSCD 北大核心 2024年第1期167-174,共8页

通过提高SiO_(2)气凝胶的亲水性来提高水性聚氨酯(WPU)涂料的防腐性能。采用脲醛对SiO_(2)气凝胶进行改性,并通过Fourier红外光谱(FTIR)、扫描电子显微镜(SEM)等手段表征气凝胶的结构与微观形貌;通过电化学阻抗(EIS)、附着力实验和盐雾... 通过提高SiO_(2)气凝胶的亲水性来提高水性聚氨酯(WPU)涂料的防腐性能。采用脲醛对SiO_(2)气凝胶进行改性,并通过Fourier红外光谱(FTIR)、扫描电子显微镜(SEM)等手段表征气凝胶的结构与微观形貌;通过电化学阻抗(EIS)、附着力实验和盐雾实验等研究了涂层的防腐性能。结果表明,添加亲水改性SiO_(2)气凝胶的涂层的附着力和腐蚀防护性能有明显提高,其中,添加1%亲水改性的SiO_(2)气凝胶涂层的附着力提升36%。在3.5%NaCl溶液中浸泡70d后涂层的低频阻抗模值超过6×10^(7)Ω·cm^(2),盐雾480 h后没有明显的鼓泡现象。 展开更多

关键词 SiO_(2)气凝胶 水性聚氨酯 亲水改性 腐蚀防护 长效防腐

原文传递

有机肥等氮量替代化肥对稻麦轮作水稻土有机碳矿化特征的影响

3

作者 刘平 孙天翔 +4 位作者 沈安邦 孙进宇 毛伟 居静 赵海涛 《扬州大学学报（农业与生命科学版）》 CAS 北大核心 2024年第2期19-28,共10页

采用大田试验和室内培养试验相结合的方法,研究有机肥等氮量替代化学氮肥对稻麦轮作模式下土壤有机碳赋存转化及功能酶活性的影响。结果表明:连续3年有机肥等氮量替代化学氮肥后土壤有机碳含量提高2.0%~17.5%,全氮含量提高1.4%~30.5%。... 采用大田试验和室内培养试验相结合的方法,研究有机肥等氮量替代化学氮肥对稻麦轮作模式下土壤有机碳赋存转化及功能酶活性的影响。结果表明:连续3年有机肥等氮量替代化学氮肥后土壤有机碳含量提高2.0%~17.5%,全氮含量提高1.4%~30.5%。替代10%最有利于提升>2.00和<0.053 mm团聚体中有机碳和全氮含量,替代40%最有利于提升0.25~2.00和0.053~0.25 mm团聚体中有机碳和全氮含量。有机肥等氮量替代化学氮肥各处理土壤有机碳矿化速率整体上高于仅施化学氮肥处理,其中替代30%、40%最有利于提升土壤有机碳累积矿化量,前者也最有利于提升土壤有机碳矿化率。有机肥等氮量替代化学氮肥处理会导致土壤外切-β-1,4-葡聚糖酶/纤维二糖苷酶(S-C1酶)活性下降,替代20%最有利于提升土壤蔗糖酶和β-葡萄糖苷酶活性,替代50%最有利于提升土壤酸性磷酸酶活性。综上,有机肥等氮量替代化学氮肥可显著提高土壤0.025~2.00和>2.00 mm团聚体碳氮含量,土壤有机碳含量与土壤全氮含量以及β-葡萄糖苷酶与土壤蔗糖酶呈显著正相关,替代20%有利于土壤有机碳矿化,替代40%有利于土壤碳固定。 展开更多

关键词 稻麦轮作 等氮量替代 团聚体 有机碳 碳矿化 功能酶

下载PDF 职称材料

探索中文预训练模型的混合粒度编码和IDF遮蔽

4

作者 邵云帆 孙天祥 邱锡鹏 《中文信息学报》 CSCD 北大核心 2024年第1期57-64,共8页

目前大多数中文预训练语言模型采用字级别编码,因为字符级编码序列长而产生大量计算开销。词级别编码尽管能够缓解这一问题,但也会带来其他问题,如词典外词、数据稀疏等。针对中文不同粒度的编码,该文提出使用混合粒度编码的中文预训练... 目前大多数中文预训练语言模型采用字级别编码,因为字符级编码序列长而产生大量计算开销。词级别编码尽管能够缓解这一问题,但也会带来其他问题,如词典外词、数据稀疏等。针对中文不同粒度的编码,该文提出使用混合粒度编码的中文预训练模型。这一编码所用的词表在大规模预训练语料上得到,因此缓解了词典外词和数据稀疏问题。为了更进一步增强模型性能,该文提出了一种选择性的遮蔽语言建模训练策略——IDF遮蔽。这一策略基于词在大规模预训练语料上统计的逆文档频率。实验表明,与之前的中文预训练语言模型相比,该文所提出方法预训练的模型在多个中文自然语言数据集上取得了更好或相当的性能,并且能更高效地编码文本。 展开更多

关键词 中文预训练 混合粒度编码 IDF遮蔽

下载PDF 职称材料

硫酸盐还原菌在顶空体积变化条件下所致镍的微生物腐蚀研究

5

作者 田原 蒲亚男 +2 位作者 孙天翔 侯苏 陈守刚 《表面技术》 EI CAS CSCD 北大核心 2024年第4期68-76,97,共10页

目的通过改变厌氧瓶内顶空体积,研究硫酸盐还原菌(SRB)对金属镍的微生物腐蚀(MIC)机理,进而为镍基合金的腐蚀防护提供依据。方法通过生物学检测技术、表面分析技术和电化学技术,评估了金属镍的MIC行为。结果随着顶空体积的增大,更多的H2... 目的通过改变厌氧瓶内顶空体积,研究硫酸盐还原菌(SRB)对金属镍的微生物腐蚀(MIC)机理,进而为镍基合金的腐蚀防护提供依据。方法通过生物学检测技术、表面分析技术和电化学技术,评估了金属镍的MIC行为。结果随着顶空体积的增大,更多的H2S以气体的形式析出到顶空,液相中硫化物浓度越低,SRB浮游和固着细胞数越高,点蚀坑越深,镍的腐蚀速率越高。在200mL的固定培养基体积下,顶空体积为90 mL和450 mL的镍试样失重分别是10 mL时的1.1倍和1.4倍,相应的点蚀坑深度分别增加了1.6倍、2.3倍。在孵育7 d后,顶空体积为450 mL时低频阻抗模值最低,同时获得最大的腐蚀电流密度,达到7.64×10^(-6) A·cm^(-2)。结论利用细胞外镍氧化释放的电子在SRB细胞质中进行硫酸盐还原在热力学上是有利的,SRB所导致的镍的腐蚀属于EET-MIC。 展开更多

关键词 镍 微生物膜 硫酸盐还原菌 顶空体积 微生物腐蚀 点蚀

下载PDF 职称材料

基于72通泵浦的克尔透镜锁模Yb∶YAG薄片激光器

6

作者 雷希音 刘锐 +9 位作者 李辉 李想 戴隆辉 公发全 邓淞文 吕起鹏 贾勇 孙天祥 王锋 李刚 《中国激光》 EI CAS CSCD 北大核心 2023年第14期43-49,共7页

基于自主研制的72通薄片泵浦模块进行了克尔透镜锁模薄片激光技术研究。首先,分析了薄片克尔透镜锁模原理。然后,基于ABCD矩阵和孤子锁模理论设计了谐振腔。最后,基于72通泵浦模块进行了克尔透镜锁模谐振腔飞秒脉冲实验研究,当泵浦功率... 基于自主研制的72通薄片泵浦模块进行了克尔透镜锁模薄片激光技术研究。首先,分析了薄片克尔透镜锁模原理。然后,基于ABCD矩阵和孤子锁模理论设计了谐振腔。最后,基于72通泵浦模块进行了克尔透镜锁模谐振腔飞秒脉冲实验研究,当泵浦功率为72 W时,获得了平均功率为11.78 W、脉冲宽度为243 fs、重复频率为81.45 MHz的飞秒脉冲输出;优化腔型后,在94 W泵浦时得到了22.33 W的输出功率,脉冲宽度为394 fs。 展开更多

关键词 激光器 薄片激光器 多通泵浦 克尔透镜锁模 飞秒激光

原文传递

高糖对牙龈卟啉单胞菌LPS引发牙周膜细胞炎症反应的影响 被引量：3

7

作者 孙天祥 苗棣 +1 位作者 王宝彦 陈悦 《口腔医学研究》 CAS 北大核心 2020年第12期1123-1127,共5页

目的:观察高糖对牙龈卟啉单胞菌(Porphyromonas gingivalis,P.gingivalis)重要毒力因子脂多糖(lipopolysaccharide,LPS)引发宿主牙周膜细胞释放炎症细胞因子和对核因子-κB(Nuclear factor-κB,NF-κB)表达、活化的影响。方法:人牙周膜... 目的:观察高糖对牙龈卟啉单胞菌(Porphyromonas gingivalis,P.gingivalis)重要毒力因子脂多糖(lipopolysaccharide,LPS)引发宿主牙周膜细胞释放炎症细胞因子和对核因子-κB(Nuclear factor-κB,NF-κB)表达、活化的影响。方法:人牙周膜细胞(human periodontal ligament cells,hPDLCs)培养于葡萄糖生理浓度中作为对照组,P.gingivalis LPS(1μg/mL)、高糖(25 mmol/L)、高糖+P.gingivalis LPS刺激细胞6 h和12 h后,酶联免疫吸附法(enzyme linked immunosorbent assay,ELISA)检测上清液中白细胞介素-1β(Interleukin-1β,IL-1β)和肿瘤坏死因子-α(tumor necrosis factor-α,TNF-α)的释放,实时荧光定量PCR(quantitative real time PCR,qRT-PCR)和Western-blot检测NF-κB p65和磷酸化NF-κB p65(phospho-NF-κB p65,p-NF-κB p65)在hPDLCs中的表达水平。结果:高糖和P.gingivalis LPS可分别促进hPDLCs表达IL-lβ和TNF-α、促进NF-κB p65表达和活化,高糖和P.gingivalis LPS的共刺激可以增强这一促进作用。结论:高糖可能通过对NF-κB的活化增强P.gingivalis LPS致hPDLCs的炎症作用。 展开更多

关键词 牙龈卟啉单胞菌 脂多糖 高糖 牙周炎 糖尿病

下载PDF 职称材料

极化电位对高锰铝青铜表面钙质沉积层的影响研究

8

作者 孙天翔 黄国胜 +1 位作者 吕平 许立坤 《材料开发与应用》 CAS 2018年第2期23-32,共10页

采用恒电位极化和电化学阻抗谱(EIS)技术研究了青岛天然海水中不同极化电位下高锰铝青铜的保护电流密度和表面状态随时间的变化过程,利用扫描电镜(SEM)和能谱X射线(EDX)分析了阴极极化产物的微观形貌和元素组成。结果表明,极化168 h后,-... 采用恒电位极化和电化学阻抗谱(EIS)技术研究了青岛天然海水中不同极化电位下高锰铝青铜的保护电流密度和表面状态随时间的变化过程,利用扫描电镜(SEM)和能谱X射线(EDX)分析了阴极极化产物的微观形貌和元素组成。结果表明,极化168 h后,-0.8 V和-0.5 V两种极化电位下,高锰铝青铜表面都能够形成明显的钙质沉积层,主要成分都是CaCO_3;-0.8 V的极化电位下,高锰铝青铜虽然表面形成了铁锰氧化物,但其稳定保护电流密度更低,钙质沉积层膜电阻和电荷转移电阻值更高,钙质沉积层结构也更加致密。因此,-0.8 V的极化电位比-0.5 V的极化电位对高锰铝青铜具有更高的阴极保护效率。 展开更多

关键词 高锰铝青铜 钙质沉积层 极化电位 阴极极化

原文传递

数字化时代知识服务发展策略分析

9

作者 孙天翔 《河南财政税务高等专科学校学报》 2020年第6期27-30,共4页

数字化时代的到来不仅为知识服务提供了强大的技术支撑,也推动着知识服务机构不断发展革新。从基于知识构建的知识服务保障、知识服务机构的变革、图书馆馆际联盟向知识服务联盟的拓展、基层社区的数字化知识服务及知识服务发展的财政... 数字化时代的到来不仅为知识服务提供了强大的技术支撑,也推动着知识服务机构不断发展革新。从基于知识构建的知识服务保障、知识服务机构的变革、图书馆馆际联盟向知识服务联盟的拓展、基层社区的数字化知识服务及知识服务发展的财政政策等方面,可以对数字化时代知识服务的发展策略进行探索。 展开更多

关键词 数字化 知识服务 知识构建

下载PDF 职称材料

关节镜下带袢双钛板A-C tightrope内固定治疗肩锁关节脱位 被引量：7

10

作者 陈栾平 邓晋京 +3 位作者 孙天祥 钟易林 陈银华 赵思淳 《实用骨科杂志》 2018年第7期597-599,共3页

目的观察在关节镜辅助下采用A-C tightrope内固定治疗肩锁关节脱位的临床疗效。方法回顾性分析自2012年5月至2013年9月,采用关节镜辅助下双钛板A-C tightrope固定治疗RockwoodⅢ、Ⅴ型肩锁关节脱位共25例,男13例,女12例;年龄25~56岁,平... 目的观察在关节镜辅助下采用A-C tightrope内固定治疗肩锁关节脱位的临床疗效。方法回顾性分析自2012年5月至2013年9月,采用关节镜辅助下双钛板A-C tightrope固定治疗RockwoodⅢ、Ⅴ型肩锁关节脱位共25例,男13例,女12例;年龄25~56岁,平均(30.5±6.2)岁。术中我们可以先采用关节镜监视下直接或者间接法复位肩锁关节,后采用A-C tightrope线固定喙突和锁骨远端。末次随访采用Karlsson功能评分进行评价。结果所有患者伤口均一期愈合,未见复发性脱位、内固定松动。患者均获得随访,时间12~18个月,平均(15.3±3.8)个月。按Karlsson标准评定,优18例,良5例,差2例,优良率为92%。结论采用关节镜辅助下双钛板A-C tightrope内固定治疗肩锁关节脱位,具有微创、操作精准、肩关节功能恢复满意等优点。 展开更多

关键词 肩锁关节脱位 带袢双钛板 肩关节镜 A-C tightrope固定

下载PDF 职称材料

集成电路中的引线框架质量影响分析 被引量：2

11

作者 于国军 田教锋 孙天祥 《集成电路应用》 2023年第7期41-43,共3页

阐述集成电路中的引线框架质量影响,引线框架的作用及性能要求,引线框架加工工艺,探讨铜基合金的对比,C18150强度和导电率符合引线框架的性能要求。通过蚀刻法、冲压法和轧制作为比较发现,引线框架的制作适用轧制加工。

关键词 集成电路制造 封装材料 引线框架 铜基合金

下载PDF 职称材料

燃煤电厂碳排放绩效核算及影响分析

12

作者 李朋 周卫青 +3 位作者 白孝轩 陈传敏 刘松涛 孙天祥 《洁净煤技术》 CAS CSCD 北大核心 2024年第8期66-74,共9页

为提高火电碳排放核算准确性和时间分辨率,采用Aspen Plus结合数学模型对碳排放绩效核算,并分析机组负荷、排烟温度、配风量、煤质成分对碳排放绩效的影响。结果表明,某燃煤电厂200 MW机组燃料燃烧碳排放绩效为674.02 g/kWh,钙法脱硫碳... 为提高火电碳排放核算准确性和时间分辨率,采用Aspen Plus结合数学模型对碳排放绩效核算,并分析机组负荷、排烟温度、配风量、煤质成分对碳排放绩效的影响。结果表明,某燃煤电厂200 MW机组燃料燃烧碳排放绩效为674.02 g/kWh,钙法脱硫碳排放绩效为3.10 g/kWh。对比实测法,核算偏差仅为4.07%,验证了核算方法的合理性。在碳排放绩效影响因素分析方面,100%THA、75%THA、50%THA、30%THA两两之间上升幅度依次为1.52%、3.86%和6.92%。排烟温度对于碳排放绩效影响相对较弱,温度由75℃升至145℃,碳排放绩效仅增长0.02%;随着配风量增加,碳排放绩效先上升后下降,5.00×10^(5)、6.80×10^(5)、8.00×10^(5)kg/h下碳排放绩效分别为682.74、673.48、679.20 g/kWh;此外,含碳量低、低位热值较高的煤种碳排放绩效相对较低,煤粉水分增加碳排放绩效略微提升。 展开更多

关键词 碳排放绩效 燃煤电厂 Aspen Plus 模拟仿真 影响因素

下载PDF 职称材料

普通小麦穗部性状QTL分析 被引量：5

13

作者 孙中沛 刘天相 +3 位作者 左希亚 赵璟琛 王中华 李春莲 《麦类作物学报》 CAS CSCD 北大核心 2017年第4期452-457,共6页

为给小麦穗部性状标记辅助选择提供可供选择的分子标记,并进一步对小麦穗部相关性状QTL进行精细定位及相关基因克隆,利用普通小麦Heyne×Lakin杂交F2代单粒传获得的145个F6代重组自交系(recombinant inbred line,RIL)群体,构建了含... 为给小麦穗部性状标记辅助选择提供可供选择的分子标记,并进一步对小麦穗部相关性状QTL进行精细定位及相关基因克隆,利用普通小麦Heyne×Lakin杂交F2代单粒传获得的145个F6代重组自交系(recombinant inbred line,RIL)群体,构建了含有2 210个标记(2 068个SNP标记和142个SSR标记)的总长度为2 139.35cM的遗传连锁图谱,并利用该图谱对小麦穗部性状(穗长、小穗数、穗密度)进行了QTL分析。结果表明,共检测出16个加性QTL,其中,与穗长相关的QTL有6个,分布在2A、2D、3B、4D、5A和7D染色体上,可解释表型变异7.58%~15.94%;与小穗数相关的QTL有4个,分布在1A、4A和7D染色体上,可解释表型变异7.28%~14.78%;与穗密度相关的QTL有6个,位于4D、5A和6B染色体上,可解释表型变异5.60%~20.06%。 展开更多

关键词 小麦 RIL群体 遗传图谱 穗部性状 QTL

下载PDF 职称材料