Casas decimais, resolução e incerteza de uma posição

Uma posição pode aparecer como 60°00,000′ N ou 60°00,0000′ N. A segunda escrita distingue intervalos dez vezes mais pequenos, mas não demonstra uma medição dez vezes melhor.

O número de casas informa como o valor foi representado. Para compreender o que esse valor permite dizer, precisamos também da origem, do instante, do datum e da incerteza atribuída ao resultado.

Esta aula aprofunda essa separação, depois de aprender os formatos de latitude e longitude.

Resolução de apresentação é o menor passo que a escrita distingue. Se o passo for 0,001 minuto e o arredondamento for ao valor mais próximo, a diferença entre o valor anterior ao arredondamento e o valor escrito fica até meio passo: 0,0005 minuto.

Este é um limite da representação, não um limite de todos os erros da posição. Se o processo truncar em vez de arredondar, o intervalo muda; é necessário conhecer a regra usada.

Na longitude, a mesma escrita não tem a mesma distância em todas as latitudes. Na aproximação esférica local, multiplicamos a distância equatorial por cos(latitude).

A 60°, cos(60°)=0,5: meio passo de 0,001′ de longitude corresponde aproximadamente a 0,463 m. Isto não transforma graus em metros através de uma constante universal.

Também não autoriza comparar directamente o tamanho de um rectângulo de latitude/longitude com um círculo de incerteza.

Imagine dez indicações muito próximas umas das outras. Essa pequena dispersão descreve repetibilidade nas condições observadas.

As dez podem, contudo, partilhar um deslocamento para leste devido à mesma referência ou influência. Fazer a média não elimina um efeito comum.

Exactidão diz respeito à proximidade ao valor de referência; repetibilidade diz respeito à concordância entre repetições. A expressão informal «muito preciso» pode esconder qual destas propriedades estamos realmente a discutir.

Uma incerteza deve dizer que grandeza descreve e como foi obtida. Um intervalo com determinado nível de confiança, uma incerteza-padrão e um limite máximo de arredondamento não são expressões equivalentes.

Não atribuímos 95% a meio passo apenas porque o desenhámos em redor do ponto. Mesmo a palavra «horizontal» deixa questões: refere-se a cada eixo ou à distância radial?

Uma comparação séria conserva a definição juntamente com a unidade.

Datum errado, hora trocada ou coordenada copiada com sinal incorrecto pertencem ainda a outra categoria: podem deslocar o resultado sem aparecer na pequena dispersão de leituras. O desenho mostra uma grelha de arredondamento, não a prestação de um receptor real.

O objectivo é saber ler um valor e a sua descrição; determinar se uma posição é adequada para uma manobra exige avaliação aplicada separada.