Loading web-font TeX/Math/Italic

viernes, 8 de octubre de 2021

Redondeo

Recordemos que la operación de redondeo de un número real x se define así: \mathcal{R}(x;n)=\text{Ent}(b^n \times 0.m+\mu)\times b^{e-n}, donde b es la base de numeración y e es el valor del exponente en la notación científica en coma flotante 0.m\times b^e (siendo m los dígitos de la mantisa), y \mu representa media unidad en la base de trabajo. Veamos un ejemplo de redondeo, conservando n:=4 cifras/dígitos significativos para el caso \sqrt{5}=2.236067977\ldots=0.2236067977\ldots\times 10^1. Luego, e:=1 (exponente de la potencia), y,como b:=10, la media unidad es \mu:=0.5.

SOLUCIÓN.
Entonces, \mathcal{R}(\sqrt{5};4)=\text{Ent}(10^4\times 0.2236067977\ldots+0.5)\times 10^{1-4}=
  =\text{Ent}(2236.067977\ldots+0.5)\times 10^{-3}
    =\text{Ent}(2236.567977\ldots)\times 10^{-3}
      =2236\times 10^{-3}
        =2.236
          =0.2236\times 10^1

El máximo error de redondeo, también llamado presición de la máquina, o unidad de redondeo, viene dado por \dfrac{1}{2}\,b^{e-n}, que, en nuestro caso es \dfrac{1}{2}\cdot 10^{1-4}=\dfrac{1}{2}\cdot 10^{1-4}=0.0005
\square

No hay comentarios:

Publicar un comentario