Po oszacowaniu parametrów wartości dopasowane wynoszą a reszty . Z równań normalnych wynika, że reszty są ortogonalne do każdej kolumny macierzy czyli Jeżeli model zawiera wyraz wolny, jedna z tych kolumn jest wektorem jedynek, więc suma reszt jest wtedy równa zeru.
Przy wielu regresorach współczynnik stojący przy jednej zmiennej można wyznaczyć na podstawie tego, co ze zmienności tej zmiennej i zmiennej objaśnianej pozostaje po liniowym usunięciu wpływu pozostałych regresorów. Tę własność formalizuje , często wykorzystywane przy objaśnianiu regresji cząstkowej i kontroli zmiennych w modelu liniowym.
Interpretacja geometryczna mały|Interpretacja geometryczna KMNK: wektor wartości dopasowanych jest rzutem prostopadłym wektora obserwacji na podprzestrzeń rozpiętą przez kolumny macierzy a wektor reszt jest do niej ortogonalny Geometrycznie wektor wartości dopasowanych można traktować jako rzut wektora obserwacji na przestrzeń rozpiętą przez kolumny macierzy Odpowiadająca mu macierz projekcji:
bywa nazywana macierzą kapeluszową, ponieważ .