什么是定点数?
小数点固定在某个位置的数,称为定点数
下方两张图片展示了纯整数和纯小数的定点数表达
若不是纯小数也不是纯整数,这个时候就需要乘以一个比例因子以满足定点数保存格式,如:
10.02表示为:0.1002*10^2
数学中的科学记数法
科学计数法要求尾数位于1到10之间,尾数大于10或者小于1都是非法的
对于任意的浮点数N,都可以使用公式N = S * r^J
来表示,如下图:
浮点数的范围主要需要考虑阶码和尾数的值;
假设阶码数值取m位,尾数数值取n位
:
阶码和尾数的数值取值如下图
单精度浮点数(float):使用4字节、32位来表达的浮点数
双精度浮点数(double):使用8字节、64位来表达的浮点数
浮点数对于尾数的要求:
尾数规定必须使用纯小数
尾数最高位必须是1
浮点数表示的范围更大
浮点数的精度更高
浮点数的运算更为复杂