Początkowo oferowali swoje usługi różnym władcom Azji Środkowej jako wojownicy, starając się znaleźć bezpieczne tereny do koczowania, ciągle naciskani przez innych Oguzów i Karachanidów. Po zwycięstwie nad Ghaznawidami pod Dandankanem w 1040 udało im się jednak utworzyć własne państwo. W 1055 zajęli Bagdad, a ich najwybitniejszy przywódca, wnuk Seldżuka Toghril Beg, otrzymał od kalifa tytuł sułtana, tym samym zakładając dynastię Wielkich Seldżuków.
Państwo rządzone przez Wielkich Seldżuków nie było scentralizowane, lecz stanowiło luźny zbiór krajów rządzonych przez poszczególnych członków rodu Seldżuka, a także innych wodzów i gubernatorów, w różnym stopniu uznających podległość władzy centralnej. Od 1041 Kermanem rządzili Seldżukidzi Kermańscy – dynastia wywodząca się od Kawurta, syna Czaghri Bega, brata Toghrila. Po bitwie pod Manzikertem w 1071 Seldżucy zajęli Anatolię, a bratanek Toghrila Sulajman Ibn Kutulmisz ustanowił tam niezależną dynastię rządzącą sułtanatem Rum. Od momentu podbicia przez Wielkich Seldżuków Syrii w 1078, rządzili w niej Seldżukidzi Syryjscy – dynastia wywodząca się od Tutusza, brata sułtana Malekszaha, wnuka Czaghriego. Z kolei w 1118 w państwie Wielkich Seldżuków wyodrębniła się dynastia rządząca Irakiem, której pierwszym przedstawicielem był Mahmud, wnuk Malekszaha.