Cálculo de la representación finita de un número real en un computador, empleando la operación de redondeo

Se considera el número real $\dfrac{2}{3}$, y se desea representarlo en un sistema de representación finita, $\mathcal{M}$, por redendeo, con cinco dígitos ($n=5$) y en base igual de representación igual a diez ($b=10$). También se desea calcular el valor de la unidad de redondeo (o precisión de la máquina) en dicha representación.

Observemos que, en un sistema de representación en punto flotante de precisión infinita, $\mathbb{R} \ni x=0.d_1\,d_2\,d_3\,\ldots \times b^e$; por lo que, en nuestro caso, $x=:\dfrac{2}{3}=0.6666\ldots \times 10^0$, con lo cual, $e=0$

Por otra parte, sabemos que en un sistema de representación de precisión finita, y, por redondeo, un número real $x$ se escribe de la forma $\mathcal{R}(x):=\left[b^n \times 0.m +0.5 \right] \times b^{e-n}$, donde $m$ designa el grupo de infinitos dígitos $d_1\,d_2\,d_3\,\ldots$

Pues bien, como $n=5$ y $b=10$, se tiene que $$\mathcal{R}(2/3)=\left[10^5 \times 0.6666666\ldots +0.5 \right]\times 10^{0-5}=\left[66667.1666\ldots \right]\times 10^{-5}=66667\times 10^{-5}=0.66667$$

Es sabido que $|x-\mathcal{R}(x)|\le \dfrac{1}{2}\,b^{e-n}$, donde el segundo miembro de la desigualdad, que es el máximo error absoluto que se puede cometer en la representación finita descrita (empleando la operación de redondeo), es lo que denominamos precisión de la máquina. Por tanto, el caso que nos ocupa, dicho valor es igual a $\dfrac{1}{2}\,10^{0-5}=5 \times 10^{-6}=0.000001$. $\diamond$