excel - Excel VBA除小数导致答案太大100倍
问题描述
在 Excel VBA (2016) 中尝试除以带小数的数字时遇到了一个奇怪的问题
Dim a As Double
Dim b As Double
Dim result As Double
a = 0.55
b = 16.8
result = a / b
MsgBox (result)
MsgBox (0.55 / 16.8)
两个 msgbox 都显示 3.2738....正确答案应该是 0.0327....
如果我从 b 中删除小数位,使计算 0.55 / 16 它显示正确答案 0.0343...
除以十进制数的行为似乎使答案变得太大了 100 倍。
这是怎么回事?
我在我的 PC 上尝试了同样的 VB.NET,它工作正常,所以我不认为这是系统/语言环境问题。
解决方案
推荐阅读
- android - 使用 Primary Sorted Collection 的字段对二级集合进行排序
- rest - 如何处理 Rest Template 中的无效内容类型?
- python - 如何使 msvcrt.getch() 在 mintty 中的行为与在 cmd 中的行为相同?
- asp.net-core - 如何在 IIS Express 配置文件中定义 launchUrl
- php - 如何禁用 PHPMailer Mail Delivery Failed 消息
- mysql - 在 node.js 中的单个数组中获取所有提要数据
- php - 如何将提醒表添加到我的数据库?
- javascript - 验证在 Typescript 中具有动态键的 Json Schema
- google-bigquery - bigQuery 中分片表和通配符表的区别。如何在 bigquery 中创建分片表
- postgresql - 安装 PgBouncer 时遇到问题(postgresql12-libs)