提醒说：“我们鲜卑人之所以如今能有这般成就，全都是因为这些地方的民众畏惧我们人多而投奔来的。但是现在我等部族内乱，而刘琨的声望很高，如果刘琨支持段末波，那么我们将死无葬身之地。”
段匹磾考虑良久，便将刘琨扣押了起来。
刘琨的庶长子刘遵惧怕因此被杀，和刘琨的左长史杨桥等人闭门自守，被段匹攻破。代郡太守辟闾嵩、后将军韩据又密谋偷袭段匹，事情泄露，段匹磾抓获辟闾嵩、韩据及其党徒，一并处决。
五月初八，段匹磾假称奉诏拘捕刘琨，把他勒死，并杀掉他子、侄四人。杀了刘琨之后，原先依附于他的刘琨的从事中郎卢谌、崔悦等率领刘琨余部逃奔辽西，依附段末波，尊奉刘群为主，将佐们大多投奔石勒。这之后，段匹磾势力大不如前。
令支的段末波派他兄弟进攻段匹磾，段匹磾率其部众数千人准备投奔邵续，石勒部将石越在盐山截击段匹磾，重创其军。
段匹磾又回头保守蓟州。段末波自称幽州刺史。
太兴二年（319），孔苌攻取了幽州诸郡。段匹磾的士众因饥饿离散，段匹磾想移军保守上谷，代王郁律领兵准备攻击他，段匹磾丢弃妻子儿女逃奔乐陵，依附邵续。
晋明帝太宁二年（320）正月，段匹磾军被追击他的段末波打败。
段匹磾来到乐陵见到劭续说：“我是拥护朝廷、忠于大义的狄夷，现在为了忠义已经兵败家破。您如果不忘我们的旧约，现在请和我一起进讨段末波。”
邵续答应了。于是二人一起向北进攻段末磾，向西防御石勒。于是和段匹磾共同向北追击段末波，使段末波的军队受到重创。