Errores de redondeo y aritmética de una computadora

La aritmética que realiza una calculadora o una computadora es distinta de la aritética de nuestros cursos de álgebra o cálculo. Para ver por qué, debemos explorar la aritmética con un número infinito de cifras.

En la matemática tradicional permitimos números con una cantidad infinita de cifras. La aritmética define a $\sqrt{3}$ como el único número positivo que al multiplicarse por sí mismo produce el entero $3$. Sin embargo, en la aritmética en computación, cada número representable tiene un número finito, fijo, de cifras. De esta forma, en computación se entienden los números como un elemento abstracto, una representación del número más no el número en sí. Esto significa, por ejemplo, que sólo algunos números racionales pueden representarse con exactitud. Dado que $\sqrt{3}$ es irracional, se da una aproximación aproximada, una cuyo cuadrado no será exactamente $3$ pero si algo cercano. De esta forma, con ésta aritmética, este tipo de errores podrán no serán relevantes pero en otros si y deberán tomarse las medidas necesarias.

El error que ocurre se llama error de redondeo. Este ocurre debido a que la aritmética de la máquina sólo utiliza números con una cantidad finita de cifras, debido a que los números se almacenan en la memoria de la computadora que es finita por lo que si se almacena un número infinito en la memoria deberá ser recortado. Así, los cálculos se realizan con una representación aproximada de los números verdaderos. En una computadora común, sólo se utiliza un subconjunto relativamente pequeño del conjunto de los números reales para representarlos a todos. Este subconjunto contiene solamente números racionales, positivos y negativos, almacenando la parte entera y la parte no entera por separado.