这时，一位名叫徐润的人来到了晋阳。此人也是个音乐家，刘琨一见，引为知音，两人十分投契，后来刘琨又让他当了晋阳令。但可惜的是，人的才华与品德往往并不对等。徐音乐家虽然琴弹得好，但人品却不咋地，常常仗着刘琨的宠信干预政事。这样一来，就与刘琨的部将令狐盛起了冲突。
令狐盛是个直性子。多次劝谏刘琨除掉徐润，刘琨不干。结果反被徐润在刘琨前面一状告倒，被刘琨杀了。刘琨的老娘知道了此事，数落他道：“你不能经营远略、驾驭豪杰，反而宠佞奸人、铲除忠良，如此下去，将来祸必及我啊！”
老太太的话没有说错。因为令狐盛还有儿子，而且这个儿子还跑去投靠了刘聪，将晋阳的虚实强弱全都抖搂了出去。刘聪大喜，当即于312年七月以这位令狐公子为向导，遣刘曜、刘粲率大军杀奔晋阳而来。
刘琨得报，知道凭自己手中的这点兵力，晋阳恐怕是守不住了。于是他决定派部将郝诜、张乔守城，自己则东出常山、中山去募兵，同时遣使向拓跋鲜卑求救。结果这两个部将甫一接战即败亡，太原太守高乔随即献城投降。
汉军一入晋阳，令狐盛的儿子就冲进刘琨的府第，杀了他的父母。刘琨回救不及，只得奔了常山。