Matlab中的数值精度问题
实例:
% 测试代码 clear; rowData = [ 0000011000110000000 ... 0000011000100000000 ... 0000011000010000000]; PHS = rowData/1e6/1e7 - ... mod(rowData,1e6*1e7)/1e6/1e7; % 截断后13位,输出为[1 1 1] mod(PHS,1) % 对截断后的数据再对1取余数,结果应该都是0。 % 但是仿真下来第2个元素输出的是1。
由于采用数值运算导致运算的精度不够,可以考虑使用digits和vpa函数提高精度,代码如下所示:
clear; digits(100) rowData = [ 0000011000110000000 ... 0000011000100000000 ... 0000011000010000000]; PHS = vpa(rowData/1e6/1e7 - ... mod(rowData,1e6*1e7)/1e6/1e7); % 截断后13位,输出为[1 1 1] mod(PHS,1)
运行后可以发现,使用vpa函数可以得出正确的结果。
那么针对本问题,除了可以使用vpa函数外得到正确结果,还可以通过对其最后一行代码进行修改,得到正确结果:
mod(ceil(PHS),1) % 使用ceil函数向上取整,但是这个方法不通用