1971年初，江泽慧和她的丈夫还住在下放的农村时，他们被准假去南京她公婆家过春节。江泽民那时恰好也在南京（在他哥哥江泽君家中），但他不知道他妹夫的父母住在哪儿，便焦急地到处寻找。
江泽慧回忆说：“当他最终找到我们时，焦虑不安地提了一大堆问题。他想马上知道一切。‘所有帽子都摘掉了吗？’‘你们平反了吗？’‘现在生活怎么样？’”江告诉妹妹，党的调查人员已经完成了对他的审查工作，他已被证明清白。“他好像对那些徒劳无功的事很感沮丧，虽然他并没有怨天尤人。”江泽慧说。
江泽民的两个儿子，江绵恒和江绵康也成了那个时代的受害者。他们的学业，同30年前江本人的学业一样，被政治动荡打断了。江是被入侵中国的日本人，他的两个儿子则是被“文化大革命”耽误了。尽管江在武汉“靠边站”的时候两个儿子有时能来看父亲，但“文化大革命”改变了他们的生活。14岁的绵恒刚刚初中毕业就被送到农村，他同其他许许多多的知识青年一起接受农村的教育改造。绵恒在粮库工作，成天背大袋面粉。弟弟绵康在1968年初中毕业后参了军。直到1979年，两个孩子才得到了完成学业的机会。
江泽民以达观的态度来面对家庭和国家遭受的创伤。“我们经历过‘文革’的人，都会对曾经在肉体和感情上折磨过自己的人深恶痛绝。”江泽慧解释说，“但三哥鼓励我要以历史的观点看问题，要与人为善，即使是对那些曾经陷害过我们的人。他说，‘如果你能够赢得他们的心，他们将与你和平相处。’”
王慧炯解释说：“江主席很少跟我谈及‘文革’，我们不需要谈。我们忘不掉那些痛苦。我们忘不掉被摧残的生命和被毁掉的一代。我们忘不掉那些对中国可怕的伤害。我们忘不掉那些激进的极左分子。我们俩都是知识分子、专业人士———没有必要说更多了。”
1969年4月，中国共产党第九次全国代表大会在相互竞争的派别之间重新分配了权力，恢复了一丝稳定，并指定军队领导人林彪为毛泽东的接班人。“文化大革命”的天下大乱势头已经减退，平反遭清洗干部的工作悄然展开。
1970年，江泽民离开干校回到北京。在“斗批改办公室”过渡了一段时间后，他成为第一机械工业部外事局的副局长，这是他的第一个正式的政府职务。这次调动标志着他的事业出现了一个根本性的转移：从工业到政治。被他称作“23年一线工作经历”和“基层时期”的阶段结束了，一个新的时期开始了。
“文革”期间，周恩来总理负责国家的外交事务。1970年，毛听从周的建议开始在外交政策方面探索新战略，特别是如何抵御关系仍然冰冷的苏联。两国在漫长而有争议的边境线上又爆发了一系列的武装冲突。中国希望在与这个强大的核邻国的对峙中获得一些回旋余地。
中国在当时被视作一个封闭的国家，在外交上没有什么力量。罗马尼亚是仅有的支持中国的国家之一。罗马尼亚一直试图摆脱对苏联的依赖。为了巩固中罗两国间的政治联系，中国同意应罗马尼亚政府的请求，帮助建立15座机械制造厂。罗马尼亚与中国之间这一半结盟的关系是基于一条古训：“敌人的敌人就是朋友。”这是对抗在共产主义世界中苏联主导地位的唯一制衡力量。
这一项目成为头等大事。周恩来将这一任务交给一机部，一机部挑选44岁的江泽民率领一个代表团出访罗马尼亚。此行的目的是进行建设15座工厂的可行性研究。经过罗马尼亚语的强化学习，江动身前往东欧。上次出国时他是一个学生，如今他将成为一个老师。
江的语言能力对他的领导地位极为重要。他抓住一切机会练习罗马尼亚语，当他不能用这门新学会的语言表达自己的想法时，他还可以同东欧人说俄语，同西欧人说英语。他发现罗马尼亚人民活泼热情、思想开放，他很喜欢与他们在一起。这是他在对外关系中的第一次官方经历。国内那些迫切希望能够取得任何形式外交胜利的上级认为，这是外交上的一个漂亮仗。江后来回忆说，此次经历让他“张开双眼看世界”。此行标志着他一生中留给后人的主要成就之一的发端：促进中国与世界其他地区的友好往来。
1971年9月，当江和代表团还在罗马尼亚时，林彪企图发动一场军事政变，包括密谋刺杀毛泽东。策划政变失败后，林和全家一起外逃，却在蒙古境内死于飞机失事。之后的混乱使周恩来得以扩大自己的权力，他开始悄悄恢复有些被清洗的官员的职位。
林彪事件还暴露出党的宣传机器是多么不可靠。在“文革”早期，中国媒体曾将林美化为“毛最亲密的战友和最好的学生”。可是，他突然就成了叛徒。也许，媒体宣传的其他事情也是错的。“文革”可怕的迷雾开始被逐步拨开。
