Industrial Data (Dec 2001)
El Efecto del Limite de Precisión en el Cálculo de La Media y la Desviación Estándar.
Abstract
Cuando se realizan cálculos en una computadora se encuentra con el problema de la precisión o acuracidad de estos. Paraanalizar este problema se examinan los cálculos de la media y la desciación estándar con un conjunto hipotético de datos de prueba. Se emplea el lenguaje de programación C++, utilizando dos algoritmos distintos en el cálculo; llegándose entre otros a concluir que la acuracidad depende del algoritmo empleado y de la capacidad de representación de los datos en una computadora.
Keywords