“文化大革命”中，乔石同志受到残酷迫害，被隔离审查和拘禁，先后两次被下放到“五七”干校。

　　1978年1月至1983年7月，乔石同志先后任中共中央对外联络部副部长、部长。1982年9月，当选为中央书记处候补书记。他全面贯彻中央关于党的对外工作的方针政策，按照党际关系四项原则，广泛同各国共产党、社会党、民族主义政党及其他进步政党和组织接触，为党的对外工作拨乱反正、开创新局面作出了积极贡献。

　　1983年6月，乔石同志兼任中共中央办公厅主任。他大力推进各项改革，建立健全工作机构，梳理整顿各项业务，推动中办各项工作为实现党的工作中心战略转移、推进改革开放和现代化建设服务。

　　1984年4月，乔石同志兼任中共中央组织部部长。他坚定贯彻落实中央关于干部队伍革命化、年轻化、知识化、专业化的方针，大胆启用和培养中青年干部，大力推动干部队伍第三梯队建设，积极推进干部人事制度改革，扎实推进整党工作，积极落实干部政策特别是知识分子政策，有力推动了组织战线的拨乱反正工作的深入和新时期新老干部的合作与交替，为全面加强党的建设作出了积极贡献。

　　1985年7月，乔石同志任中共中央政法委员会书记，同年9月，增选为中共中央政治局委员、中央书记处书记。1986年4月任国务院副总理。他认真贯彻中央关于政法工作的方针政策，加强和改善党对政法工作的领导，在推进民主法制建设、依法管理、加强社会治安综合治理、保障社会安定等方面倾注了大量心血。他深入研究新时期社会治安的新情况、新问题，为探索形成改革开放新形势下具有中国特色的广泛依靠群众解决社会治安问题的新路子作出了贡献。

　　1987年11月，乔石同志当选为中央政治局委员、常委，中央书记处书记，中央纪律检查委员会书记。他认真贯彻从严治党方针，大力加强党风廉政建设，深入研究改革开放和社会主义市场经济条件下反腐败斗争的特点和规律，制定完善廉政建设的法律法规，把惩治腐败纳入法制化轨道。