Podobnie jest dla innych tensorów (wielkości skalarne są tensorami 0 rzędu, wektory są tensorami 1 rzędu; definiuje się tensory 2 i wyższych rzędów). Tensory są obiektami geometrycznymi, dlatego operacje wykonywanie na nich nie powinny zależeć od wyboru układu współrzędnych. W trakcie rozwoju teorii tensorów poszukiwano takich działań na tensorach, które w wyniku dają inne tensory. Jednym z takich działań jest obliczanie pochodnej tensora. Pierwsze podejście, polegające na obliczaniu pochodnej cząstkowej, prowadziło w układach krzywoliniowych do obiektu, który nie był tensorem.
Odkryto, że charakter tensorowy będzie miała tzw. pochodna kowariantna tensora – pochodna cząstkowa uzupełniona o dodatkowe składniki, związane z krzywoliniowością układu współrzędnych.
Pochodna kowariantna tensora redukuje się do pochodnej cząstkowej w prostoliniowym kartezjańskim układzie współrzędnych.
Pochodna kowariantna – podstawowe wzory Pochodną kowariantną oznacza się symbolem średnika, po którym umieszcza się indeks współrzędnej, po której wykonuje się różniczkowanie (czasami zamiast średnika stosuje się slash (/), zaś w 3-wymiarowej przestrzeni znak pionowej kreski ( | ), zaś symbol przecinka oznacza pochodną cząstkową, np.: – pochodna cząstkowa po współrzędnej krzywoliniowej – pochodna kowariantna po współrzędnej krzywoliniowej