第二次发生在314年六月，汉军大将赵染、殷凯败亡，刘曜不利引还。
315年九月，刘曜再次率军由蒲坂渡河，发动了攻势。为了一雪前三次败归的耻辱，刘曜布置了缜密的计划，决定先取外围、再克长安。当年十月攻取了冯翊，次年五月取得了上郡，到了316年七月，北地已是岌岌可危。
晋北地郡治即今铜川市耀县，是长安北方的门户。北地被围后，城内大闹饥荒，开始吃起了人肉。太守麯昌向屯驻于黄白城的麯允求救，麯允急率步骑三万前来赴援。刘曜得到消息，一不解围二不打援，反而叫属下收集柴禾绕着北地城生起篝火来。城上的守军纳闷，难道匈奴人要吃烧烤？刘曜的士兵也纳闷，难道将军要开篝火晚会？
都不是，火是放给援军看的。当麯允的援军距北地城数十里时，远远的望见郡城的方向黑烟冲天而起，又遇见败退逃亡的晋军（其实是刘曜叫手下人装扮的），说是北地已经失守汉军正在放火焚城，顿时人心大乱士众溃散，慌忙退回了灵武。于是刘曜不慌不忙地攻陷了北地。
这一招名叫“瞒天过海”，在三十六计里排名第十。
北地既失守，九月刘曜就包围了长安。十月攻陷外城，麯允、索綝等大臣保着愍帝退守小城。此时内外断绝，城内饥馑，米一斗值黄金二两，饿殍横于道旁，逃亡者络绎不绝，只有凉州来的一千多义兵坚守不移。太仓里还剩下数十个麦饼，麯允将其弄碎熬粥给愍帝喝，最后也终于吃尽。
到了十一月，眼看如此下去大家势必全部饿死，十七岁的晋愍帝哭道：“今日穷厄如此，我当忍耻出降，以活士民。”于是命侍中宗敞送降书给刘曜。谁知大臣索綝竟私自阻截宗敞，另派他的儿子出去对刘曜说：“眼下城里还有一年的粮食，不是轻易就能攻破的，如果你许诺给我高官厚禄的话，我就献城投降。”