公元436年，北魏太武帝拓跋焘灭掉北燕后，又打起了北凉的主意。

北凉沮渠氏，世代都是匈奴左沮渠王，他们以官职为姓氏。后凉主吕光背着西秦自立，任命沮渠罗仇为尚书，然后率兵讨伐西秦，不料大败而归。吕光将战败之责归罪于沮渠罗仇兄弟，将他们处斩了。

沮渠罗仇的侄子沮渠蒙逊，推举太守段业为凉州牧，自为部将，率兵为叔父报仇，并一举击败后凉，活捉后凉主吕光和他的侄儿吕纯。

段业自称凉王，用沮渠蒙逊为尚书左丞，历史上称为北凉。

由于沮渠蒙逊功高权重，段业对他有所忌惮，于是任命沮渠蒙逊出任西平太守，将他调离凉州。

沮渠蒙逊也是一个有野心的人，当然不会任由段业摆布，于是率兵*进凉州，*了段业，自称凉州牧，兼张掖公。

后来，后秦灭掉后凉，南凉主秃发傉檀奉命据守姑臧。沮渠蒙逊走走秃发傉檀，攻占姑臧作为国都，将全族的人都迁到姑臧，又自封河西王。

西凉灭亡后，北凉的国土更广阔。沮渠蒙逊派人到建康向刘宋朝贡，接受宋文帝的册封。然后又将儿子沮渠安周派到北魏，让他在拓跋焘身边当差，获得北魏太武帝的封赏。两头讨好，可见沮渠蒙逊非常狡猾。

治国二十多年，沮渠蒙逊不免骄淫起来。北魏大臣李顺屡次出使北凉，刚开始，沮渠蒙逊尚能以礼相待，时间一长，便露出了原形，对李顺的态度逐渐冷淡，直至狂傲，箕踞上坐，受书不拜。