Acerca de la precisión de la máquina (unidad de redondeo)

Se suele utilizar la siguiente notación para realizar las operaciones de truncamiento y redondeo ( si bien, recordemos que lo usual será hacerlas por redondeo ): $$\mathbb{R}\ni \text{float}(x)=\pm\,0.d_{1}d_{1}\ldots \times b^e \approx \left\{\begin{matrix}\mathcal{T}(x;n)=\text{Ent}(b^n \times 0.m)\times b^{e-n} \\ \mathcal{R}(x;n)=\text{Ent}(b^n \times 0.m+\mu)\times b^{e-n}\end{matrix}\right.$$ donde $\mu$ denota media unidad en el sistema de numeracíon de base $b$ que se emplee; así, si $b=10$ es claro que $\mu=0.5$, y, si, por ejemplo, $b=2$, entonces $\mu=0.1_{2}$ ya que $0.1_{2}=2^{-1}=0.5_{10}$


Nota: La función parte entera $\text{Ent}(.)$ suele abreviarse de la forma $[.]$

En el caso de que $x$ sea un número negativo, se define $\mathcal{R}(x)\overset{\text{def}}{=}-\mathcal{R}(-x)$ y se cumple que $|x-\mathcal{R}(x)|\le \dfrac{1}{2}\,b^{e-n}$.

La cantidad $\dfrac{1}{2}\,b^{e-n}$ se conoce como unidad de redondeo o también como precisión de la máquina, y representa una cota razonable del error absoluto.

Así, por ejemplo, es evidente que al aproximar por redondeo el número $\pi$ con tres cifras significativas obtenemos $\mathcal{R}(\pi)=3.14$; de acuerdo con lo dicho arriba, convenimos así que $\mathcal{R}(\pi)=0.314\times 10^1$, con lo cual $e=1$ ( exponente de la potencia de base $10$ ) y $n=3$ ( precisisón de la mantisa - número de dígitos en la mantisa ( con el dígito entero igual a cero ) -, que es $n=3$ ), por lo que el máximo error de redondeo en esta aproximación $|x-\mathcal{R}(x)|\prec \dfrac{1}{2}\,b^{e-n}$ ( precisión de la máquina, o unidad de redondeo, que sabemos que es igual a media unidad del orden de la última cifra considerada ), y, en efecto, como $3\prec \pi \prec 4$, $e:=1$ ( exponente de la potencia de base $10$ ) y al aproximar con $3$ cifras significativas, $n:=3$, luego dicha precisión de la máquina ( o cota razonable de error absoluto ) en dicha aproximación es $\dfrac{1}{2}\,b^{1-3}=\dfrac{1}{2}\,10^{-2}=\dfrac{1}{2}\,10^{-2}=0.005$
$\square$