彭绍辉打到西北，痴情的山西妹子张纬也跟到了西北。1949年8月3日，这是个让彭绍辉终生难以忘怀的日子。晚上10点多钟，彭绍辉仍旧在煤油灯下研究作战方案，卫生部长张德炎突然推门进来，兴奋地说：“军长，你看谁来啦！”彭绍辉抬起头，不禁怔住了。门外昏暗的灯影下，风尘仆仆的张纬就站在眼前。“你怎么来了？”彭绍辉又惊又喜。张纬一句话也没有说，眼泪就像断了线的珍珠一样落了下来。张德炎说：“从太原到天水，张纬是一路打听着找来的。她这一路上可是吃了不少苦，她说怕再也见不到你了！”
彭绍辉被张纬的深情打动了。三天后，经上级批准，彭绍辉和张纬结婚了，当时正好第七军的师级干部在军里开会，彭绍辉请他们到街上的羊肉馆吃了一顿羊肉泡馍，就算举行了结婚仪式。
六
新中国成立后，中国人民解放军从战争环境转入和平时期，进入正规化、现代化建设的新阶段。彭绍辉先后担任了西北军区副司令员兼参谋长、第一高级步兵学校校长、训练总监部副部长兼条令部长、军事科学院副院长兼战术研究部部长、副总参谋长等职，为我军的建设做了大量的工作。他一贯主张：“既然是军队，就要训练；要训练好，就必须有遵循，就要有条令、教范、教材。”他积极组织总结、交流我军的作战和训练经验，介绍外军的有益经验，亲自领导编辑了四个野战军的《战术资料汇集》。特别是毛泽东提出要编写我军自己的条令以后，他在军委副主席叶剑英的直接领导下，全力以赴地主持编写工作，逐字逐句地推敲修改，先后编写了几十万字的条令，其中有《诸军兵种合成军队作战条令》、《军、师合成军战斗条令》、《军语》、《内务》、《纪律》、《队列》等等。
1954年10月，彭绍辉被任命为中国人民解放军副总参谋长。1960年1月，再次任中国人民解放军副总参谋长。在中央军委的领导下，彭绍辉指导了编制、装备、侦察、防化、气象和民兵等一系列工作。
“文化大革命”期间，彭绍辉同林彪、江青反革命集团进行了针锋相对的斗争。在大刮夺权风的时候，彭绍辉公开表态：军事领导机关不能夺权，不能冲击。当林彪一伙企图将假党员等莫须有的罪名强加在他头上并对他进行审查逼供时，彭绍辉说：“凡没有的事情，压力再大也不会承认。”当林彪反党集团大搞军事训练取消主义、大砍军事院校和训练机构时，彭绍辉明确表示反对。
1974年9月，彭绍辉主持召开民兵训练工作业务座谈会，王洪文、张春桥看到会上没有推广他们炮制的“上海经验”，没有宣传“民兵指挥部”，便大肆叫嚷会议“不抓路线，方向错了”。彭绍辉根本不理睬这一套，当着他们的面，向军委叶剑英、聂荣臻两位副主席提出加强“三结合”武装力量体制的正确意见。翌年，彭绍辉带病到一些地方调查民兵工作。回到北京后，他在向中央军委递交的报告中提出“还是人民武装部好”，反对搞“民兵指挥部”。1974年在唐山召开的民兵通讯分队组训工作经验交流会上，彭绍辉明确提出：要在会议所有文件、讲话和典型材料中，把“民兵指挥部”的字样全部删掉。他还大力宣传“三结合”武装力量体制的好处，并尖锐地指出：“这是领导权问题。”
彭绍辉在“文化大革命”期间被批斗时，毛泽东想起了这位小老乡：“彭绍辉在哪里？他是贫农出身，抬过轿子，是一位好同志嘛！不要斗他了。”毛泽东的一句话，保护了彭绍辉，使他得以“解放”。彭绍辉在自己恢复工作之后，还尽力保护其他老干部。当有些同志被诬陷，受审查，甚至被说成是“叛徒”、“特务”时，只要彭绍辉知道是冤案的，他就主动写证明材料，说明事实真相。当这些同志还在被隔离、关押时，他多次冒险前去探望。有人贴出大字报，题为《彭绍辉探监》。他理直气壮地说：“我知道这样做他们会给我贴大字报。有真理在，我不怕。”
1976年清明节前后，一阵阵政治寒流比三九天的风雪还要刺骨。一个老同志问彭绍辉说：“现在到底是怎么回事呀？你是中央委员，总了解一些情况吧？”彭绍辉说：“我虽然是个中央委员，知道的并不比你多。……但有一条我明白，我是中央委员，将来选举时，我这一票投谁不投谁，我心里是清楚的。”彭绍辉接着说：“军队里的老同志总是要革命的。你想嘛，你我这些老同志能压下这口气吗？叶帅、聂帅、徐帅、许世友等这些老首长，能让他们闹下去吗？总有一天会爆发的。”几个月后，“四人帮”被粉碎了，彭绍辉感到极为振奋，为党和国家在灾难中得到挽救而高兴。
彭绍辉在人民的军队里整整奋战了半个世纪，直至他生命的最后一息。他原有文化程度很低，但经刻苦钻研，提高很快。他长期坚持学习马列和毛泽东著作，直至晚年，依然如此。
彭绍辉也很重视学习军事理论和科学技术，他常说：“世界上军事科学技术不断发展，新技术不断出现，不学习怎么行啊！”为了适应我军现代化建设的需要，彭绍辉勤奋学习现代军事科学技术及军兵种知识，认真研究现代战争的特点。此外，他还系统了研究第一、二次世界大战的材料，研究戴高乐将军等欧美政治家、军事家的传略以及孙子兵法等我国的军事典籍和战例。凡是他读过的书，他不仅划标记，做眉批，还写读书笔记，重视积累资料。在戎马生涯中，彭绍辉养成了写日记的好习惯。不论走到哪里，他总要把日记本带上，把工作中和生活中的重要事情记下来，即使在长征路上也不例外，至今保留下来的日记、笔记和其他材料（1934-1978年），共计200余本。
1970年，在一次例行体检时，医生发现彭绍辉患有主动脉瘤。由于瘤子已经很大，随时都有生命危险，医生嘱咐他一定要注意，弯腰、起身也不能用力。而彭绍辉却处之泰然，精神上同以往一样乐观，照常坚持大量繁重的工作。他经常说：“我身上有定时炸弹，不知什么时候爆炸，趁没爆炸的时间多干点。”
1978年4月22、23日两天，彭绍辉精神恍惚，面色苍白，他对夫人张纬说：“这两天我胸背部痛得厉害，和过去伤口痛不一样，贴止痛膏，吃止痛药都不管用。”张纬劝他去医院检查，彭绍辉摇摇头说：“还有许多工作等着要做。”4月25日凌晨，彭绍辉的病情突然恶化，胸部夹层动脉瘤破裂，不幸去世，享年72岁。
