Aplicação das normas L1 e L∞ em redes altimétricas: identificação de outliers e construção do modelo estocástico

Abstract

Nesse artigo, aplicações da minimização da norma L1 (ML1) e da norma L∞ (ML∞) na estimação de redes altimétricas foram investigadas. Redes de nivelamento simuladas pela Técnica de Monte Carlo e dados reais da rede brasileira de nivelamento foram empregados nos experimentos. Na identificação de outliers pela ML1, foi verificado que o ajustamento com pesos unitários apresentou condições vantajosas em relação ao modelo estocástico usual dos pesos proporcionais ao inverso do comprimento das linhas de nivelamento. O Classificador VL1, que estipula um Valor de Corte para os resíduos do ajustamento pela ML1 a partir do qual a respectiva observação passa a ser classificada como outlier, foi proposto. A taxa de sucesso dele na identificação de outliers foi superior à do procedimento data snooping iterativo em cenários de geometria da rede deficiente. Já a aplicação da ML∞ investigada é posterior ao tratamento de outliers. Um modelo estocástico alternativo para ajustamento da rede pelo MMQ que aproveitou a característica de minimização do máximo resíduo absoluto da rede no ajustamento pela ML∞ foi analisado. Além dessa minimização, o ajustamento da rede pelo MMQ com o modelo alternativo gerou, na significativa maioria dos casos, resíduos e precisão desses e dos parâmetros estimados mais homogêneos, com menor desvio padrão, que aqueles com o modelo estocástico usual. Todos os resultados são especialmente relevantes para o caso de redes altimétricas.

Keywords

• normas L1e L∞
• modelo estocástico
• Monte Carlo
• altimetria