Industrial Data (Dec 2001)

El Efecto del Limite de Precisión en el Cálculo de La Media y la Desviación Estándar.

  • Edgar Ruiz L.

DOI
https://doi.org/10.15381/idata.v4i2.6763
Journal volume & issue
Vol. 4, no. 2

Abstract

Read online

Cuando se realizan cálculos en una computadora se encuentra con el problema de la precisión o acuracidad de estos. Paraanalizar este problema se examinan los cálculos de la media y la desciación estándar con un conjunto hipotético de datos de prueba. Se emplea el lenguaje de programación C++, utilizando dos algoritmos distintos en el cálculo; llegándose entre otros a concluir que la acuracidad depende del algoritmo empleado y de la capacidad de representación de los datos en una computadora.

Keywords