0.1+0.2≠0.3 无法避免的浮点误差-0.1+0.2≠0.3?? 无可避免的浮点误差

AID:
CID:
视频图片:
作者头像:
弹幕地址:
视频描述:

热门回复:

  • Seekcx:刚学的时候遇到过这个问题。。还是在线上。 当时接入了支付宝,自认为比较严谨的在回调的时候加了一个金额判断再去更新订单信息。结果有一笔订单就是对不上,导致用户付了款确显示不成功。 我至今还记得那个数是 9.8。。[笑哭]
  • 僕の名前は鱼翅:我明白了 拼多多用的是浮点运算[OK]
  • 昵称被占用很难受:这个世界上只有10种人,一种是懂二进制的,一种是不懂的。
  • 东风谷早苗-:我至今都还记得,第一次使用浮点数运算时,三观被震撼的那个下午。[笑哭]
  • 骨碌骨碌YOOOOO:你要是在几十万测试条数据判断中发现预设的数值跟初始化配置写入的判断计算公式阈值无法命中,但是你又必须使用浮点处理,还不知道测试人员预埋的数据是哪个,血压爆一倍,接着还发现是因为同事写代码没处理好导致单双精度浮点强制转换得到的小数再次被参与双精度浮点计算得到比预计值就差那么那么一点点的结果时,那个脑腔炸膛的脉动感一言难尽[藏狐]