k60 浮点运算问题

电子555 · 发表于 2014-4-9 15:10:19

火哥我的k60进行乘法运算的时候出现问题了整数可以一位小数也可以但是两位和两位以上的小数运算时结果就不对

onlyfly · 发表于 2014-4-9 22:08:33

开了硬件浮点吧？

电子555 · 发表于 2014-4-9 22:33:40

onlyfly 发表于 2014-4-9 22:08
开了硬件浮点吧？

没有开啊

风落小鱼 · 发表于 2014-4-9 22:49:42

电子555 发表于 2014-4-9 22:33
没有开啊

没开硬件浮点，那应该不会出错的啊，你是什么代码？计算结果是多少

风落小鱼 · 发表于 2014-4-9 22:50:02

有可能是精度问题导致的吧

账号		自动登录	找回密码
密码			注册