在第三章的学习中,用到了上课时间学到的,二和十进制转换以及二和十六进制的转换。然后了解到计算机小数运算不一定会百分百正确,在有时会出现错误,例如将0.1累加100次得不到10。避免这种错误的方式,我在学习中了解到将小数化整,然后计算之后再除以乘的倍数,即可得到自己想要得到的值。以及还有浮点数的使用。双精度浮点数类型用64位,单精度浮点数类型用32位来表示全体小数。
ryrx 2019-03-02 10:01 原文
在第三章的学习中,用到了上课时间学到的,二和十进制转换以及二和十六进制的转换。然后了解到计算机小数运算不一定会百分百正确,在有时会出现错误,例如将0.1累加100次得不到10。避免这种错误的方式,我在学习中了解到将小数化整,然后计算之后再除以乘的倍数,即可得到自己想要得到的值。以及还有浮点数的使用。双精度浮点数类型用64位,单精度浮点数类型用32位来表示全体小数。