本文摘自PHP中文网,作者黄舟,侵删。
给大家看个计算题,看看大家的算术能力。0.1 +0.1 +0.1 - 0.3 等于几?
大家可能会说这么简单的问题,是不是看不起我?肯定等于0啊。
如果大家直接算的是没有问题的,但是如果用计算机呢?
见证奇迹的时刻到了,看代码:
1 2 3 4 |
|
运行结果:
这是因为计算机的精度的问题,在计算机的内部存储和运算的精度缺失等问题,我解释的可能不太明白,不过,大家可以用下面的方案进行解决:
1 2 3 4 5 6 |
|
运行结果:
这样就是正常的运算结果了。
啦啦啦!!!!
以上就是c#之浮点数计算问题的解决的详细内容!
相关阅读 >>
在.net core类库中使用ef core迁移数据库到sql server的方法_实用技巧
ants performance profiler(.net性能调优教程)
.net core2.0小技巧之memorycache问题修复解决的方法(图)
更多相关阅读请进入《csharp》频道 >>

C#高级编程(第11版) C# 7 & .NET Core 2.0(.NET开发经典名著)
作者:[美]克里斯琴·内格尔(Christian Nagel)著。出版时间:2019年3月。