魏文侯攻灭中山后，把中山封给太子击，之后又封给少子挚，并且由李克治理，乐羊镇守。前403年，周威烈王承认魏文侯、韩景侯、赵烈侯为诸侯，又称“三晋”。三晋最初在魏文侯的倡导下还能铁板一块，但是在魏文侯死后，因为对卫国的争夺，终于使得魏国和赵国关系破裂，前383—前381年，赵国联合楚国击败魏国。魏国和赵国既然联盟破裂，中山也就成为魏国一块难以统治的飞地。流亡的中山桓公抓住了这次机会，在灵寿又一次建立中山国。之后在前377年和前376年，赵敬侯两次攻打中山，但都没有明显成果。痛定思痛，饱受国破家亡的中山桓公没有安于现状，而是积极修筑长城以防御赵国。魏国只是一时之克星，而赵国却是宿命的敌人。
之后中山国一直在稳定中发展，前332年，齐国、魏国伐赵，中山也趁机围攻赵国的鄗邑，中山军队决槐水淹鄗邑，这一战几乎攻克了鄗邑，成为赵国的奇耻大辱。同时这一战也极大地提高了中山的国际地位。前323年，为了对抗秦、齐、楚三大国，较弱的中原国家在魏相公孙衍的倡导下实行“五国相王”，即赵国、韩国、魏国、燕国、中山国相互称王。中山能和“战国七雄”并列，可见实力不弱，但终究还是差那么一截。所以齐国第一个跳出来表示看不惯，中山也有资格和老子并列称王了？号召赵国和魏国一起打中山，非逼他取消了王号不行。中山王听说此事后非常害怕，连忙派大臣张登想办法摆平。张登找到齐国相国田婴，开始了一顿忽悠：“您这不是把中山往赵国和魏国那边赶吗？不如同意中山称王，我们大王一高兴，就会与赵国和魏国断交，而赵国和魏国就会进攻中山。中山害怕亡国，便会为您取消王号投靠您，这不是很好吗？”
胡服骑射灭中山
齐国大臣张丑发现了其中的问题，连忙劝阻田婴说：“不行啊！五国一起称王，您现在容纳中山，不是摆明不承认其他四国吗？”但田婴没有听从，邀请中山王而尊其为王。张登马上跑到赵国和魏国那里挑拨说：“齐国把和中山国并列称王当作耻辱，但现在却同意尊中山王啦！这是要利用中山的兵力进攻你们呢，你们不如早点同意中山称王，来阻止齐国和中山联合，不是很好吗？”赵国和魏国自然惧怕齐国从中作梗，连忙尊中山为王，于是中山和齐国断交。张登通过其纵横捭阖，排除了齐国的干扰，保证了五国抱团。这件事记载在《战国策》中，不过另一则有所不同，说的是齐国贿赂赵国和燕国攻打中山国，中山相国蓝诸君担心此事不能办妥，张登还在他面前彩排了一次。前314年，称王后的中山国遇到一次扩张的绝佳机会。
原来燕国国君燕王哙在相国子之以及苏代、鹿毛寿等大臣的怂恿下，把国王之位禅让给了子之，这自然引起了动乱，燕王太子平和将军市被一起进攻子之，但后来市被不知为何又倒戈攻打太子平。齐国和中山国趁火打劫，齐国攻克了燕国的都城，中山国相邦司马赒则率领中山三军占领了燕国十多个城池，开地数百里。此次战争使得中山达到了鼎盛时期，司马赒也因此被封为“仲父”，甚至周天子及诸侯都发电致贺。这个司马赒又作司马憙，不是别人，正是大史学家司马迁之先祖。司马赒在担任相国之前还有点挫折，原来他曾请赵国为自己谋取中山相国，但被另一大臣公孙弘得知。公孙弘直接问中山王：“做人臣的吃里爬外，让大国为自己谋取相国，这种人应该怎么办？”中山王恨恨地说：“寡人要吃他的肉啊！”司马赒只能不停磕头说微臣该死。
不过愚蠢的中山王却认为是公孙弘和赵国有私通所以才知道这件事，以致司马赒最后还是上位了。司马这人确实不怎么样，《韩非子》记载，大臣季辛和爰骞互相厌恶，而司马赒又和季辛是仇人，他就派人杀了爰骞从而嫁祸季辛，使得季辛被中山王杀死。这不仅说明司马赒阴毒，也说明中山王昏庸。这也体现在另外一件事上，也是《韩非子》记载的，有个叫鲁丹的人三次劝谏中山王而不被理睬，于是他就送了点红包给中山王的近侍，这下鲁丹还没说话中山王就客客气气地请他吃饭了。鲁丹吓坏了，说：“他要以别人的话认为我好，就必然以别人的话认为我坏啊！”果然可怜的鲁丹还没来得及出境就被当作赵国细作抓起来了。国君昏庸、吏治腐败，仿佛让我们又看到了春秋末年的中山。盛极而衰，侵燕之后的中山，也开始走下坡路了。
在旁边一直虎视眈眈的赵武灵王也有所耳闻，他派大臣李疵去侦察情况，李疵的意见是：“中山可以打，如果大王不去打，怕就要落在诸侯之后。”赵武灵王奇怪地说：“为什么呢？”李疵说：“中山君礼贤下士啊，在穷街小巷里，车子难以通行，他就取下车盖，甚至亲自下车拜访，总共去了七十家。”赵武灵王又问：“这不是贤能的君王吗？又怎么去攻打他呢？”李疵却一针见血指出了问题所在，他说：“如果任用士人，那么百姓就致力扬名，而不用心农耕和作战；如果拜访贤者，那么农民就懒于务农，战士会不敢作战。这样的情况难道不亡国吗？！”可以发现，中山国现在推行的是不合实际的儒家色彩的政治。
为了策划对中山的战争和检阅边防军的情况，前309年，赵武灵王亲赴赵国与中山、齐国毗邻的九门重镇，登台观察中山、齐国的情况。第二年，历史又给了赵武灵王一个绝好的外部机会，原来秦国国君秦武王死去，赵武灵王乘机从燕国接来秦王子稷送归秦国。王子稷即位是为秦昭王，秦昭王即位初自然对赵武灵王表示友好。又过了一年，赵武灵王召来宰相肥义和群臣一起开了五天的会，会后正式开展对中山的战争。据《吕氏春秋》记载，中山国有支精锐部队“吾丘鴪”，他们穿铁甲操铁杖，“所击无不碎，所冲无不陷，以车投车，以人投人，几至将所而后死”。这支部队非常彪悍，他们不仅守住了房子城，甚至攻克了赵国的鄗邑。此时燕国也想报当日之仇，南征中山，但同时也被中山击败。连败赵、燕的中山非常嚣张，甚至准备向燕国进行反攻。
对中山的失败，也让赵武灵王痛定思痛。前305年，雄才大略的赵武灵王在赵国广泛推行以胡服骑射为中心的军事改革，赵国军事实力大幅度提高。赵武灵王又一次发动全国之力进攻中山，他以自己为三军统帅，其中赵祒为右军帅、许钧为左军帅、赵章为中军帅，向北进攻中山。同时派遣牛翦率领骑兵和战车，赵希率领胡、代、赵骑兵，从井陉关往东攻打中山国的腹地。牛翦、赵希会合后，向北攻下了中山的丹丘、华阳等城；中山王大惊，连忙献上鄗、石邑、封龙、东垣求和，赵武灵王自忖不能一口吃下中山，就收下这四座城，还让牛翦、赵希归还了侵占中山腹地的城池。当然，赵国并未作罢，从前303年到前301年，赵武灵王又不断蚕食中山的土地。前300年，赵国发兵二十万，开始对中山的亡国之战；中山的另一仇敌燕昭王自然也来插上一脚。
于是在赵、燕的合攻下，死守五年的灵寿城终于在前296年被攻破，中山王逃奔齐国；赵国另立尚（胜）为中山国傀儡国君，但是仅在一年之后，中山王尚就被赵国废除，中山国至此完全灭亡。