Discuz! Board

 找回密码
 立即注册
搜索
热搜: 活动 交友 discuz
查看: 873|回复: 0
打印 上一主题 下一主题

浮点数应用

[复制链接]

1272

主题

2067

帖子

7958

积分

认证用户组

Rank: 5Rank: 5

积分
7958
跳转到指定楼层
楼主
发表于 2019-12-31 10:28:38 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
而是c++数据运算优先级的问题
如果都是整数 那返回值就是整数
所以上面应该写成fTemp = nTemp/1024.0f/1024;


把其中的一个1024写成浮点类型 这样返回值就是float类型


回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

QQ|Archiver|手机版|小黑屋|firemail ( 粤ICP备15085507号-1 )

GMT+8, 2024-11-23 10:18 , Processed in 0.062318 second(s), 19 queries .

Powered by Discuz! X3

© 2001-2013 Comsenz Inc.

快速回复 返回顶部 返回列表