Matlab中的数值精度问题

实例:

% 测试代码
clear;

rowData = [ 0000011000110000000 ...
            0000011000100000000 ...
            0000011000010000000];
        
PHS =   rowData/1e6/1e7 - ...
        mod(rowData,1e6*1e7)/1e6/1e7;   % 截断后13位,输出为[1 1 1]
   
mod(PHS,1)   % 对截断后的数据再对1取余数,结果应该都是0。
             % 但是仿真下来第2个元素输出的是1。

由于采用数值运算导致运算的精度不够,可以考虑使用digits和vpa函数提高精度,代码如下所示:

clear;

digits(100)

rowData = [ 0000011000110000000 ...
            0000011000100000000 ...
            0000011000010000000];

PHS =   vpa(rowData/1e6/1e7 - ...
        mod(rowData,1e6*1e7)/1e6/1e7);   % 截断后13位,输出为[1 1 1]

mod(PHS,1)

运行后可以发现,使用vpa函数可以得出正确的结果。

那么针对本问题,除了可以使用vpa函数外得到正确结果,还可以通过对其最后一行代码进行修改,得到正确结果:

mod(ceil(PHS),1) % 使用ceil函数向上取整,但是这个方法不通用
经验分享 程序员 微信小程序 职场和发展