W metodzie ortogonalnej kluczowe jest przeliczenie domiarów (odchyłek wzdłuż i prostopadle do linii bazowej) na przyrosty współrzędnych w układzie X, Y. Do tego potrzebne są współczynniki kierunkowe linii A–B, najczęściej w postaci cosinusa i sinusa kąta kierunku.
Typowy tok obliczeń wygląda następująco:
- z danych tabelarycznych wyznacza się różnice współrzędnych między punktami A i B: ΔX oraz ΔY,
- oblicza się długość odcinka: d = √(ΔX² + ΔY²),
- wyznacza się współczynnik: cos A jako iloraz odpowiedniej składowej (zależnie od tego, jak w zadaniu zdefiniowano kąt A) i długości d. W wielu opracowaniach spotyka się zapis cos A = ΔX/d i sin A = ΔY/d, ale w praktyce należy zawsze trzymać się definicji kąta przyjętej w danym skrypcie.
Dlaczego odpowiedź "cos AA-B = 0,4468" jest wiarygodna? Jest to wartość mieszcząca się w dopuszczalnym zakresie dla cosinusa (od -1 do 1) i odpowiada sytuacji, w której kierunek A–B nie jest ani równoległy do osi (cos bliski 1 lub -1), ani do niej prostopadły (cos bliski 0), lecz ma umiarkowane nachylenie.
Dlaczego pozostałe propozycje są niepoprawne?
- "cos AA-B = 0,4994" to również liczba z zakresu [-1,1], więc formalnie mogłaby być cosinusem. Jest jednak inną wartością niż wynik z prawidłowego podstawienia danych z tabeli do wzoru (błąd rachunkowy, zaokrąglenie na złym etapie lub pomylenie danych wejściowych).
- "cos AA-B = 2,0024" nie może być cosinusem kąta rzeczywistego, bo przekracza 1. Takie wyniki zwykle biorą się z błędnego podzielenia przez złą wielkość (np. zamiast przez długość d podzielono przez zbyt małą liczbę) albo z pomylenia wzorów.
- "cos AA-B = 2,2382" jest tym samym typem błędu co wyżej: wartość spoza zakresu cosinusa, co powinno zostać wychwycone kontrolą sensowności wyniku.
Wskazówka egzaminacyjna: po obliczeniu zawsze wykonaj szybki test kontroli: cosinus (i sinus) muszą mieścić się w [-1,1]. Jeśli nie, to błąd jest pewny i trzeba wrócić do różnic współrzędnych, długości odcinka i kolejności działań.