期刊文献+
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
共找到4篇文章
< 1 >
每页显示 20 50 100
已选择0条
导出题录 引用分析
参考文献
引证文献
 统计分析
检索结果
已选文献
显示方式：
平方根倒数速算法的精度优化 被引量：2
1
作者 周泉 杨靓 何卫强 《微电子学与计算机》 北大核心 2019年第5期64-69,共6页
平方根倒数速算法是计算机数值计算中的一种常用方法.文中在对平方根倒数速算法的原理进行分析的基础上,提出一个新的算法常数来提升计算结果的统计精度.实验结果表明,本文提供的算法常数相比于原有的算法常数能将批量数据处理的平均精... 平方根倒数速算法是计算机数值计算中的一种常用方法.文中在对平方根倒数速算法的原理进行分析的基础上,提出一个新的算法常数来提升计算结果的统计精度.实验结果表明,本文提供的算法常数相比于原有的算法常数能将批量数据处理的平均精度提升大约30%～40%,而针对单个数据的计算,本文方法的意义在于能从一个更大的概率(平均约77%)上获得比原有方法更加精确的结果. 展开更多
关键词 平方根倒数 0x5f3759df 0x5f34ff59 卡马克常数 精度优化
下载PDF
计算机三维图形中一个平方根倒数算法的数学证明及优化 被引量：1
2
作者 程竟然 《数值计算与计算机应用》 CSCD 2013年第4期266-278,共13页
在计算机三维图形领域中存在一个仅使用位操作和减法运算的快速平方根倒数算法.作者利用代数分析结合Mathematica软件提供的数值方法,通过构造相对误差目标函数并最小化之,证明了此算法的有效性,指出了其适用条件并发现了算法中一个常... 在计算机三维图形领域中存在一个仅使用位操作和减法运算的快速平方根倒数算法.作者利用代数分析结合Mathematica软件提供的数值方法,通过构造相对误差目标函数并最小化之,证明了此算法的有效性,指出了其适用条件并发现了算法中一个常数的较优替代值.此外如果按输入分两类分别进行计算能再提高精度.进一步利用C语言编程手段验证了优化后的算法. 展开更多
关键词 计算机三维图形 平方根倒数 最优化
原文传递
一种定点化平方根倒数运算的硬件实现
3
作者 夏顺兴 罗小华 《电子技术（上海）》 2018年第1期21-23,共3页
针对平方根倒数运算电路中传统的多次迭代法占用较多运算单元,以及多项式逼近法占用大量存储单元的问题,提出一种基于分段二次项式逼近与牛顿迭代相结合的定点化平方根倒数运算的硬件实现方法。结合两种方法的优点,即运用少量存储单元... 针对平方根倒数运算电路中传统的多次迭代法占用较多运算单元,以及多项式逼近法占用大量存储单元的问题,提出一种基于分段二次项式逼近与牛顿迭代相结合的定点化平方根倒数运算的硬件实现方法。结合两种方法的优点,即运用少量存储单元存储二次多项式系数用于求解迭代初值;然后对迭代初值进行一次牛顿迭代使根快速收敛。其中,对系数及过程变量都进行定点化处理,避免复杂的浮点运算。实验结果表明,该现实方法仅需584bit存储单元及少量乘加运算单元,求解误差小。 展开更多
关键词 定点化 平方根倒数 多项式逼近 牛顿迭代
原文传递
基于浮点数的Cholesky分解FPGA实现
4
作者 朱鹏 叶树霞 杨晓飞 《计算机与数字工程》 2023年第4期759-762,831,共5页
在阵列信号抗干扰算法中,常常需要求解协方差矩阵的逆矩阵。Cholesky分解利用了协方差矩阵的厄米特(Hermitian)正定的特性,大大简化了矩阵求逆运算的计算量。论文介绍了Cholesky分解数学原理,并提出了一种适合FPGA实现的结构。基于浮点... 在阵列信号抗干扰算法中,常常需要求解协方差矩阵的逆矩阵。Cholesky分解利用了协方差矩阵的厄米特(Hermitian)正定的特性,大大简化了矩阵求逆运算的计算量。论文介绍了Cholesky分解数学原理,并提出了一种适合FPGA实现的结构。基于浮点数的算法实现相比传统的定点数,大大提高了结果的精度。由于Cholesky分解需要涉及浮点数的开方运算,论文引入了平方根倒数法来提高开方运算的速度。通过仿真与实测,选取了最优的资源与速度的实现方案。 展开更多
关键词 FPGA CHOLESKY分解 平方根倒数法
下载PDF
已选择0条
导出题录 引用分析
参考文献
引证文献
 统计分析
检索结果
已选文献
上一页 1 下一页 到第 页
使用帮助 返回顶部