中直机关临时党委初建时，只设一个书记，不设副书记，党委机关只设一个综合性的办公室承办日常事务，许多问题都要书记亲自处理，作为中央副秘书长、中央办公厅主任又兼中直机关党委书记的杨尚昆工作十分繁忙。后来，中直机关党委副书记刘火时常讲起这一时期的工作情况，他说：“我们每天上午、下午上两个班，杨主任每天要上三个班，经常工作到凌晨。”“那时我们起草文稿，他和我们边讨论边修改，有时几经修改还不满意，他就自己动手重新起草。”1951年9月，中共中央直属机关第一次代表大会，正式选举中直机关第一届党委，杨尚昆为书记，曾三、邓典桃为副书记。此后，在第二、第三、第四、第五、第六次中直党的代表大会上杨尚昆都当选为中直机关党委书记（按照八大党章规定，第六届中直机关党委设书记处，杨尚昆为党委第一书记）。十余年中，中直机关党组织不断壮大，党的工作不断发展，党委机关建设逐步健全，杨尚昆功不可没。但是，他兼任中直机关党委书记同他任中央办公厅主任一样，历尽坎坷。

　　20世纪50年代中期，在整风反右运动中，毛泽东认为中直机关党委在领导秘书室的运动中犯了“扶右反左、插黑旗”的路线错误，称之为“黑旗事件”。中直机关党委第一书记杨尚昆，书记曾三、刘华峰都受到了批评或处分。“黑旗事件”后，杨尚昆虽然不再兼任中直机关党委书记，但是作为中央书记处候补书记仍然要指导中直机关和中央国家机关两个党委的工作。1965年秋，根据毛泽东的意见，中直机关党委被撤销。不久，“文化大革命”开始，原中直机关党委的干部绝大多数被编入中央办公厅的“学习班”参加“斗批改”，“揭批”杨尚昆去了，后来又下放到中央办公厅五七干校劳动改造。

　　十一届三中全会以后，中央决定恢复中直机关党委。1980年2月9日，中央办公厅第一副主任冯文彬在中直机关代表会议上代表中央为原中直机关党委平反，郑重宣布：“原中直党委多年来执行的路线是正确的，中直党委逐步形成的一套工作制度、工作方法、工作作风都是好的，中直党委的领导成员和机关党委干部的绝大多数是好的和比较好的，他们做了大量工作，虽有缺点和错误，但成绩是主要的。在‘文化大革命’初期，林彪、康生、江青等人诬蔑中直党委是‘烂摊子’，‘做了许多坏事’，纯属诬蔑不实之词，应予彻底平反，恢复名誉。”