计量学报

作者：梁志国

单位：北京长城计量测试技术研究所计量与校准技术重点实验室,北京100095

关键词：计量学;残周期;正弦波;曲线拟合;误差界

基金：国家重点研发计划(2017YFF0206202)

针对频率搜索法和组合法2种残周期正弦曲线拟合方法在实际拟合中所能达到的最短周期个数极限,分别在单精度浮点数和双精度浮点数2种采样序列条件下进行了仿真实验研究,通过分别搜索变化序列周波长度、波形初始相位、序列包含的采样点数,考查残周期正弦参数拟合误差及其变化规律。获得的结论为:1)对于单精度浮点数序列,任意相位条件下,频率搜索法在10%的波形周期曲线下可以获得可用的结果,组合法可以在7%的波形周期曲线下获得可用的结果;过零点附近的最佳条件下,组合法可以进行1%周期曲线的残周期拟合。2)对双精度浮点数序列,任意相位条件下,频率搜索法在7%的波形周期曲线下可获得可用结果,组合法可以在4%的波形周期曲线下获得可用结果;过零点附近的最佳条件下,组合法可以进行0.03%周期曲线的残周期拟合。

来源：2023年第6期

《计量学报》期刊编辑部

查看计量学报杂志2023年第6期