技术论坛

浮点运算问题

作者 主题
新手

经验值: 44
发帖数: 1
精华帖: 0
主题:【求助】浮点运算问题
推荐帖


只看楼主 楼主 2020-08-07 21:22:42



为什么两个实数的值相减的结果应该是37.21,但是实际显示出来却是37.20999。原本是两个寄存器之间相减的,两个实数寄存器我都取过整。还是不行,后来我直接输入两个实数数值,还是一样的结果。百思不得其解,手册上说只有计算溢出的时候才会出现100000+1=100000这样的情况,可是我这个实数值很小,应该也不存在溢出的情况啊。求大神解惑,不胜感激!!


 
以下网友喜欢您的帖子:

  
重要声明:

著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。

帖子链接:https://www.ad.siemens.com.cn/club/bbs/post.aspx?a_id=1636223&b_id=64&s_id=0&num=12

至圣

经验值: 12573
发帖数: 2503
精华帖: 31
回复:浮点运算问题
推荐帖


只看楼主 3楼 2020-08-09 10:09:09

应该是现在的PLC浮点运算的问题。记得以前的浮点运算很少出现0.1的偏差问题,只从ARM内核大行其道后,到处看到浮点运算出现0.1偏差的问题。

讲真,这0.1的偏差我觉得很恶心。

真相就是以前的浮点运算是用IEE754算法计算的,基本上不会出现0.1偏差,ARM内核是使用高速的浮点运算硬件内核,为了快速计算并不是采用编程的算法(整数浮点数分开独立计算、浮点数固定次数循环计算精度),这样就会导致精度不相同从而出现偏差。


 
以下网友喜欢您的帖子:

  
至圣

经验值: 127317
发帖数: 22001
精华帖: 824
回复:浮点运算问题
推荐帖


只看楼主 1楼 2020-08-07 21:54:37

是因为单精度浮点数的位数只有6位有效数字(23位)。使用的是二进制补码计算,结果常常是这样的。

没辙。


尽量避免浮点运算吧。




学而时习之,不亦说乎?温故而知新,不亦乐乎?
以下网友喜欢您的帖子:

  
至圣

经验值: 67523
发帖数: 14779
精华帖: 100
回复:浮点运算问题


只看楼主 2楼 2020-08-09 07:31:51

这是计算机计浮点数的共性。详细原理我也不知道。听得多见得多就信吧。实际上也没算差多少给你。跟整数运算不同。


 
以下网友喜欢您的帖子:

  
奇侠

经验值: 7588
发帖数: 1989
精华帖: 0
回复:浮点运算问题


只看楼主 4楼 2020-08-09 10:56:26

不用浮点,用长整数。双精度的浮点运算会不会出现这种情况?有的plc支持双精度浮点数。


 
以下网友喜欢您的帖子:

  
奇侠

经验值: 5117
发帖数: 105
精华帖: 0
回复:浮点运算问题


只看楼主 5楼 2020-12-29 09:09:22

编程取值属性特重要!

多看多想多动手。


 
以下网友喜欢您的帖子:

  
侠士

经验值: 1545
发帖数: 166
精华帖: 2
回复:浮点运算问题


只看楼主 6楼 2020-12-29 09:16:52

浮点数扩大倍数,转换成整数,然后在参与运算


一世温柔暖一人
以下网友喜欢您的帖子:

  
游侠

经验值: 509
发帖数: 101
精华帖: 0
回复:浮点运算问题


只看楼主 7楼 2020-12-29 18:56:34

来学习下,我觉得扩大倍数 转换成整数 挺实用的


 
以下网友喜欢您的帖子:

  
至圣

经验值: 37446
发帖数: 5133
精华帖: 47
回复:浮点运算问题


只看楼主 8楼 2020-12-29 19:11:14

 的确也是经常见到这样的问题,所以有一点就是浮点数做比较时不能使用等于比较。


工业起重机防摇摆 QQ:404136820 AntiSwayControl
以下网友喜欢您的帖子:

  
侠圣

经验值: 2311
发帖数: 83
精华帖: 0
回复:浮点运算问题


只看楼主 9楼 2020-12-29 21:01:16

 进来向大神学习了


莫欺少年穷
以下网友喜欢您的帖子:

  
至圣

经验值: 12705
发帖数: 1584
精华帖: 1
回复:浮点运算问题


只看楼主 10楼 2020-12-30 00:07:51

学习了,谢谢!


努力学习西门子
以下网友喜欢您的帖子:

  
新手

经验值: 46
发帖数: 2
精华帖: 0
回复:浮点运算问题


只看楼主 11楼 2021-01-02 21:39:25

改为整形,然后换回实型


 
以下网友喜欢您的帖子:

  
侠士

经验值: 1180
发帖数: 266
精华帖: 0
回复:浮点运算问题


只看楼主 12楼 2021-01-03 08:44:59

一般都是取整了,,浮点数不参与计算。。


无闻
以下网友喜欢您的帖子:

  
  • 上一页
  • 1
  • 下一页
收起
浮点运算问题
您收到0封站内信:
×
×
信息提示
很抱歉!您所访问的页面不存在,或网址发生了变化,请稍后再试。