野火电子论坛

 找回密码
 注册

QQ登录

只需一步,快速开始

查看: 25304|回复: 4

k60 浮点运算问题

[复制链接]
发表于 2014-4-9 15:10:19 | 显示全部楼层 |阅读模式
火哥 我的k60进行乘法运算的时候 出现问题了 整数可以 一位小数也可以 但是两位和两位以上的小数运算时结果就不对
回复

使用道具 举报

发表于 2014-4-9 22:08:33 | 显示全部楼层
开了硬件浮点吧?
回复 支持 反对

使用道具 举报

 楼主| 发表于 2014-4-9 22:33:40 | 显示全部楼层
onlyfly 发表于 2014-4-9 22:08
开了硬件浮点吧?

没有开啊   
回复 支持 反对

使用道具 举报

发表于 2014-4-9 22:49:42 | 显示全部楼层
电子555 发表于 2014-4-9 22:33
没有开啊

没开硬件浮点,那应该不会出错的啊,你是什么代码?计算结果是多少
回复 支持 反对

使用道具 举报

发表于 2014-4-9 22:50:02 | 显示全部楼层
有可能是精度问题导致的吧
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 注册

本版积分规则

联系站长|手机版|野火电子官网|野火淘宝店铺|野火电子论坛 ( 粤ICP备14069197号 ) 大学生ARM嵌入式2群

GMT+8, 2024-11-1 15:34 , Processed in 0.028656 second(s), 23 queries , Gzip On.

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表