tcelvis 发表于 2013-3-26 23:13 浮点运算不太可能使用自定义格式。因为浮点数格式是跟CPU、GPU硬件绑定的。不符合的话会非常麻烦。因为一 ...
使用道具 举报
8749236 发表于 2013-3-27 02:28 应该是float吧。double记得比这个精确多了……(是double来着么?) “
tcelvis 发表于 2013-3-27 08:49 这个看不出来的,关键是程度读取的时候读成什么格式
8749236 发表于 2013-3-27 10:09 我想应该不会double和float之间来回换的。 不然的话每一次存取都会造成误差。那可不好玩…… ...
chengfan 发表于 2013-3-27 10:32 至于计算用的数值格式与硬件无关,只与需求和实现来决定,例如编程的语言、编译环境和运算需求等。 只用 ...
chengfan 发表于 2013-3-27 10:31 这个就是double,float比这个还要短 如果double是:4.7527289157379,则转为float后只有4.752729 ...
本版积分规则 发表回复 回帖并转播 回帖后跳转到最后一页
查看 »
Archiver|手机版|小黑屋|DeepTimes.NET 太空游戏站
GMT+8, 2025-9-14 08:27 , Processed in 0.048345 second(s), 4 queries , Redis On.
Powered by Discuz! X3.5
© 2001-2024 Discuz! Team.