平阳大战取得胜利以后，晋州刺史梁士彦劝谏周皇乘胜追击，周皇觉得有理，但是遭到诸多将领的反对。
认为周军应巩固战果，同时休养兵士，但周皇觉得机会难得，不可错失良机，于是于是不顾诸将劝阻，再次亲征攻齐。
周军一连攻克高壁、介休，兵锋直指晋阳。这令逃回晋阳城的齐皇高纬恐惧难安，高纬得知周军即将到达，于是想要逃亡北朔州。
倘若晋阳失守就继续北逃，投奔突厥。很快，齐皇高纬下令由安德王高延宗留守晋阳，并暗中将皇太后、太子等人送至北朔州，随时准备逃跑。
周军抵达晋阳，齐皇高纬立即任命高延宗为齐国相国，命其掌管晋阳军务，以示安慰。自己想连夜出城逃离突厥。
众将领苦劝，这才改变主意，才逃回邺城。齐皇身边的近臣见大势已去，遂四散而逃。穆提婆更是直接投降。
周皇为树立榜样，于是封穆提婆宜州刺史。有了这个“榜样”的例子，齐朝臣降周者络绎不绝。
在留守晋阳的勋贵和将领的支持下，相国高延宗在晋阳称帝，并打开晋阳府库，将其中的财货赏赐给守城的将士。
重赏之下，必有勇夫，齐军得以恢复了一些士气，高延宗凭借此举赢得了一定的人心，整顿收拢了近四万余士卒，准备作背水一战。
随后，高延宗令莫多娄敬显、韩骨胡守城南；和阿干子、段畅守城东；自己守防御薄弱的北门，试图借坚城抵御周军。
不料城东两将直接投降了周朝，并打开了晋阳城门。城外的周皇见状，便亲自指挥周军攻入东门。
然而战场瞬息万变，高延宗和莫多娄敬显知晓东门失守，立即打开城门率军杀出，各自击退城门前的敌军，绕至城东兵合一处，再从东门把周武帝和其亲兵夹击在晋阳城中。
高延宗亲率大军冲击，手持大槊在阵前往来奔驰。齐军士气大振，将攻入城中的周军阵形彻底冲散。
周军大乱，周武帝宇文邕眼看危在旦夕，好在有降者引路，这才幸免于难。
齐军取得大胜，高延宗认定周皇宇文邕已经死在城中，于是便放松了警惕，下令士卒人人纵酒欢庆，齐军从上至下都沉浸在胜利的喜悦之中。
此刻的北周帐中，周皇有些后怕，于是决定放弃征讨，想要返回关中，军中将领更是纷纷劝谏武帝放弃东征，徐徐图之。
但齐王宇文宪坚持不退军道：“自陛下克晋州，破高纬乘胜逐北，以至于此。致令伪主奔波，关东响振，自古行兵用师，未有若斯之盛也。昨日破城，将士轻敌，微有不利，何足为怀。丈夫当死中求生，败中取胜。今者破竹，其势已成，奈何弃之而去？”
周皇也平静了下来，刚才是自己吓遭了，如今齐朝眼看唾手可得，若是放弃终是不甘。终于不再固执己见，他听从了齐王建议，选择继续进围攻晋阳。