匪患平息后，鉴于群众“怕变天”的思想比较严重，张衍带领第五地委和军分区的干部逐县发动群众，做宣传工作。在牛子龙副司令的支持下，首先到他的家乡郏县开展工作，成效显着。郏县中学的老师和一些开明绅士向牛子龙提出，能否请张政委给老师和学生做场报告？张衍欣然同意，他建议采取座谈会的方式，大家充分讨论，然后他再讲。这就是有名的郏县知识分子座谈会。张衍没有想到，一下来了300多人，座谈会开了一个星期，影响很大，襄县也派人找张衍，要求襄县也开座谈会。张衍的座谈会名声大震，有力地发动了豫西知识分子参加革命工作。
是年2月底，地委召开扩大会议，进行“三查三整”。当时“左”的思想很有市场，新来的地委副书记和几个县委书记把批判火力集中到张衍的身上，给张衍扣了两顶大帽子：一是“土匪路线”，不是剿灭土匪而是集训土匪；二是“地富路线”，开什么知识分子座谈会，吸收地富子女办什么军政干校。
面对如此政治水平的干部，张衍真是哭笑不得。他据理反驳所谓“土匪路线”，说明对股匪集中整训、分散整编达到消灭之目的是四兵团前委的决定，这一点秦基伟司令员可以证明，你们也可以问问前委书记陈赓司令员；至于“地富路线”，他不得不让一步，检讨自己没有首先考虑贫雇农的问题……
此后，张衍把主要精力放在军分区上，地委就挂个虚名。3月间，上级向军分区派来新干部，并带来一个团的兵力，张衍和同志们努力发动群众，建立武装，四个月后，军分区已经建起五个独立团，共三千多人。
5月间，刘、邓大军从大别山转移到豫西。在中原政治工作会议上，张衍见到张际春副政委。有人给张衍透露点儿消息：有可能调他去办中原军政大学。张衍内心里不愿意再回学校工作，他希望在战争中多锻炼几年。没有想到，8月中张衍接到调令：到中原军大任政治部副主任。
五、从中原军大到二高步校
张衍到中原军区政治部报到后，张际春副政委与他进行了长谈，动员他安心在学校工作。张际春说，战争形势发展很快，解放区迅速扩大，军队和地方急缺干部，需要尽快尽多地培养干部。中原军大校长和政委由刘伯承司令员兼，下设四个总队，总队以上干部是我们指名选调的，你是最早报到的。到职后先把政治部建起来。
过了两天，中原军区副司令员陈毅到学校作报告，张衍便随陈副司令员到职。
1948年10月，郑州解放，军大奉命参加接管工作，并扩大招生。郑州接管工作告一段落，学校迁往许昌。淮海战役胜利后，张衍忙于军大第一期学生的毕业和分配。
1949年3月19日，军大奉命进军南京；5月4日，全校进驻南京，校名改为二野军大。
入城后张衍面见李达副司令员兼参谋长，请示任务。李达说，现在有大批知识分子要求参军，这是培养干部的好时机，你们立即登报招生。
张衍回去立即组织招生委员会，招生简章见报后，宁沪杭等地的知识分子报考军大极为踊跃，学校不得不三次增加录取名额，最后，经过考试录取了13000人。
二野领导从华北调来一批团、营干部充实军大，校级领导只调来徐立行任教育长、刘华清任政治部副主任兼党委书记。张衍改任宣教部长。在宣布干部任命时，李达说：“军大的教育主要是政治教育，张衍同志你的责任重大哟！”
学员一下子膨胀到一万余人，吃穿住尚可想办法解决，可没有教员怎么办教育？
张衍焦急不安，与大家研究的结果是只能采取“边学边教、现炒现卖”的办法。张衍一头扎进教学里，3500多人的《社会发展史》由他一个人全包了。他上课时，各总队任课教员都来听，他们回去再照着张衍的讲义给学员讲。那时候没有扩音设备，在3500人的大课堂上全靠大嗓子吼，讲完课，张衍累得只想喝水，吃不下饭。
4个多月的政治教育极大提高了年轻学员的思想觉悟，使他们初步树立起革命的人生观。
初冬的时候，二野军大奉命随大军向八千里外的大西南进军，先乘火车绕行到武汉，然后分路从两湖各地步行，向云贵川挺进。千里行军，跋山涉水，艰苦备尝，这些江南水乡长大的年轻学员经受了平生第一次大磨炼。
1950年3月，张衍等校领导到达重庆，二野军大改名西南军大，主要任务是改造国民党军官。军大的西南军区高级研究班里有900多名少将以上的国民党起义将领，按照党的政策，从起义时起，他们就是解放军的一部分，对他们政治上要尊重，行动上要自由，生活上要照顾，不能采取任何强制手段。其次，他们的文化水平高，社会经验丰富，长期执行国民党反共反人民的政策，旧的思想意识和立场比较顽固。所以教育、改造、团结高级起义将领是一个政策性很强、要求严格的艰巨任务，非一般政工干部所能胜任。张衍勇挑重担，他深厚的理论修养和滔滔辩才使起义将领敬佩有加，张衍出色地完成了任务。历史证明，从高级研究班毕业的国民党起义将领在日后的工作中为新中国建设事业做出了积极的贡献。
1951年1月，西南军大改建为第二高级步兵学校，余秋里任校长兼政委，徐立行任副校长，刘华清任政治部主任，张衍任政治部副主任。
二高步校的主要任务转为教育提高工农老干部，这批干部以功臣自居的情绪比较突出，他们高傲自负，瞧不起教员，特别是由国民党起义军官担当的军事教员。
为了纠正这种错误思想意识，以余秋里为首的校领导在大会小会批评教育，使这些特殊学员逐步树立起谦虚谨慎、尊重教师的观念。
是年7月，刘华清调海军工作，张衍接任政治部主任。1952年元旦后，中央决定开展“三反”运动，紧接着西南军区下命令，调余秋里任军区节约检查委员会副主任，其职务及校党委书记由张衍代理。突然增加的压力，特别是独立领导一个大单位的“三反”运动，张衍诚惶诚恐，如履薄冰。在运动的“打老虎”阶段，上级下指标：二高要打5条虎，张衍如坠五里云雾，他了解自己的部下，哪里有虎啊！他去军区找领导，请求减免，最后还是余秋里帮忙，说：“学校是个清水衙门，你们就先打一条吧！”
张衍无奈，回来先摸底，摸来摸去，一条虎也找不到。正在犯愁，军区又奉中央指示“反右倾”，分配新的“打虎任务”：二高步校增加到10条老虎！
极左思想指导下的“三反”运动，出现严重的扩大化，弄得张衍焦头烂额，带头做检查，也无济于事。最后是普遍甄别平反，赔礼道歉。
六、跟随陈赓大将创建哈军工1951年6月间，中央军委下文：以二高步校为基础，到哈尔滨创建军事工程学院。中央已任命志愿军代司令员陈赓为院长兼政委。7月，二高步校提前举行毕业典礼，贺龙、邓小平等军区首长来参加。主持全校工作的张衍布置各部门做好向哈尔滨转移的准备工作，他天天都与陈赓保持电话联系，特别是干部的安排问题，张衍要随时听到陈赓的指示。
哈军工筹委会成立一周之后，即9月7日的晚上，西南军区举行欢送二高步校离渝北上的联欢会，会餐结束举行舞会，二高步校的领导同志自然躲不过女战士们的热情邀请。张衍刚刚跳完一支曲子，找他的电话就打了进来。
张衍抓起电话：“我是张衍，啊！陈司令员！”张衍高兴地昂起头，一边擦着脸上的汗珠。
陈赓在电话里说：“还是叫我院长吧，我已经走马上任了嘛。我说张衍呀，你快来吧，筹委会成立一周喽，快要忙死人。你熟悉情况，你快来！”
张衍说：“那好，我明天准备一下就出发。”
“准备什么呀？”陈赓有点急了，“让秘书收拾一下就行了嘛。”
“我还得向军区首长辞行吧。”张衍说。
“不用了，我给贺老总打个电话吧，你现在快让秘书买飞机票，我们明天在北京见。”“咔”的一声，陈赓挂机收线。
翌日凌晨，秘书王秉衡帮助张衍抱着孩子，带着简易行装直奔机场。张衍连警卫员也没有带，抱着儿子、领着女儿就匆匆钻进飞机。密封很差的机舱冷飕飕的，张衍用毛毯把女儿裹紧，又紧紧把儿子抱在怀里，爱人程倩重病住院后，张衍是又当爹又当妈。
9月9日上午，张衍晋见陈赓。陈赓握着张衍的手，上下打量着说：“几年不见，你有点发福喽！不容易啊，我听说程倩住院很长时间，去医院看看没有？孩子们安顿好啦？”
张衍说：“昨天下午我带孩子去了医院，徐副校长让女同志帮助照看一下小孩子，我得赶快投入工作啊！”
陈赓满意地说：“这就好！二高步校的同志们是打前站的，大队人马从大西南搬到大东北，你们组织得很好。”
张衍向陈赓汇报了二高步校的搬迁和干部调动的情况：二高步校共北上排以上干部1400余人，加上家属孩子，约两千余人搬迁到哈尔滨；另外，还有练习团1200余名干部和战士，是参加学院基建的部队。自8月底起，校部和五个大队已分三批出发，11月中旬全部搬迁完毕。
陈赓说：“二高干部总体素质是好的，对极个别作风不好或者能力太差的干部，要么调出去，要么放在一般岗位上，不能影响军工干部队伍的质量。另外，这么多人到哈尔滨，必须安排好住处，东北一到10月初就冷了，要早点准备，二高的人员路过北京，就让他们换上冬装，暖暖和和地出山海关。”
陈赓最后说：“筹委会分工，你负责招生和配备干部，明天就去武汉吧，就地组织招生组，按规定到各大军区、各军兵种招生。”
翌日，张衍独自一人乘车前往武汉，组织招生工作。1952年12月初，张衍等哈军工院系领导跟随陈赓到达哈尔滨，从此，张衍成为陈赓创建哈军工的得力助手之一。
在哈军工草创之初，陈赓不在的时候，由他代理临时党委书记。1954年春，副院长刘居英和政治部主任刘有光调进哈军工后，张衍任政治部副主任，院党委常委；1957年底刘有光调京后，张衍接任政治部主任，直至1965年秋调往西安。
1955年张衍授大校，1961年，张衍晋升为少将。
张衍在哈军工前后工作了13年，经历了那个时代的风风雨雨，为这所着名大学的建设和发展，为培养我军急需的高级国防技术人才呕心沥血，贡献良多。
七、“文革”逆境见风骨
1965年11月，在山雨欲来风满楼的形势下，张衍奉调西安，出任解放军军事电讯工程学院（简称西军电）政委、党委书记，他无论如何也料想不到，上任不到5个月，就在“文革”的狂潮里被戴上“三反分子”的帽子，一夜之间被打倒了。
那是6月初的一个夜晚，在农村搞“四清”的西军电院长戴润生带着学生造反团回到学院，贴出了一张大字报：“张衍不仅是三反分子，而且是反动权威，具体情况以后揭发。”于是，在这个造反派院长的引导下，铺天盖地的大字报朝张衍飞来，从6月2日起，是挨不完的批斗，跟着就是写不完的检查，早认罪，晚交代，背诵毛泽东的文章《敦促杜聿明投降书》。造反派要张衍每次都得称自己是“死不改悔的走资派”。
1966年10月8日下午，周恩来同聂荣臻、叶剑英一起听取张震寰关于“两弹”结合飞行试验准备情况的汇报。此时，国防科委领导急匆匆来找聂帅报告：西军电的造反派要求国防科委批准罢张衍的官。
聂帅略一思考，立即让秘书代表他答复西军电的造反派：“不能开这个先例。学院是省委领导的，我们无权决定，军队无权决定。军队规定，罢官要在运动后期处理，并通过一定的组织手续。学生的要求我们不能同意。”
聂帅的指示传到西军电，造反派们仍不甘心，嘴上不提罢官，实际上变本加厉批斗张衍，有时一天三场批斗会。白天的大会不敢动手打人，晚上的小会就要撒野动粗了。有一次造反派把张衍的腰打坏，痛得起不来床，造反派连架带拖，把张衍弄到会场批斗。最让张衍痛苦的是，造反派不顾老伴程倩身体有病，孩子又小，残忍地把他们全家扫地出门，押往一间旧马棚里栖身。
晚上，张衍在昏黄的路灯下坐在几块砖头上写检查，一不留神将“把仇恨记在***反动路线的账上”这句话错写成“把仇恨记在群众的账上”，这一下可麻烦了，为此多年被揪住不放。
造反派斗张衍时经常出现如下这种有意思的对话：“狗张衍，抬起你的狗头，睁开你的狗眼，看看我们毛主席的红卫兵，无产阶级革命造反派！”
“……”
“你有什么罪？”
“反毛主席。”
“怎么反的？”
“不知道。”
张衍到西军电工作才半年，造反派实在找不出他什么“罪状”，就三番五次派人去哈军工外调，寻找打倒张衍的“罪状”，重点是查张衍为什么1964年秋天没有马上向全院传达《毛主席和毛远新的谈话》，罪名是“封锁毛主席指示”。