机器数
在二进制浮点数系统中,机器数可表示为
x=±0.d1d2⋯dk×2p,d1=1,
其中
di∈{0,1}(i=2,3,…,k),p∈Z,−m≤p≤M.
记机器数的集合为
S=S(k,m,M).
当运算结果超出机器数的表示范围时,分别称为上溢出或下溢出。
误差
对于准确值 x∗,x 是 x∗ 的一个近似值。
绝对误差
定义
e∗=x∗−x,
称 e∗ 为 x∗ 的绝对误差。
绝对误差限
定义:若存在 ε∗>0,使得
∣e∗∣=∣x∗−x∣≤ε∗,
则称 ε∗ 为 x∗ 的绝对误差限。
相对误差
定义 x∗ 的相对误差为
er∗=x∗x∗−x.
相对误差也可用 x∗ 的近似值 x 作为分母。
相对误差限
定义:εr∗ 为 x∗ 的相对误差限,此时有
∣x∗∣∣x∗−x∣≤∣x∗∣ε∗=εr∗.
有效数字
定义:若
∣e∗∣=∣x∗−x∣≤21×10−n,
则称 x 是 x∗ 精确到小数点后 n 位的近似值。
若 x∗=0.a1a2⋯am×10p,a1=0,且满足下式:
∣x∗−x∣≤21×10p−n,1≤n≤m,
则称 x 具有 n 位有效数字。
定理(有效数字与相对误差)
若 x 具有 n 位有效数字,则其相对误差满足
∣er∗∣≤2∣a1∣1×10−n+1.
反之,若
∣er∗∣≤2∣a1∣1×10−n+1,
则 x 至少有 n 位有效数字。