1939年，古大存作为“七大”代表率领南方代表团赴延安。在延安，古大存参加了整风运动，因他敢于联系实际，开展批评和自我批评，被毛泽东同志誉称为“带剌的玫瑰花”。此后，他继续奔忙在革命事业的各条战线，为革命事业贡献了毕生精力。

1940年底率代表团到延安后，便参加了高级干部学习组的整风学习，任小组长；1942年2月，全党开始整风，他调中央党校，先后任支部书记、一部主任。

1945年4月，出席中共七大，被选为七届中央候补委员。日本投降后，受党中央委派，参加建立东北根据地的工作，从延安去东北，途经张家口时，曾奉命帮助晋察冀中央局办党校，任校长。

1946年5月到达东北后，任中共西满分局常委、秘书长、土改工作团团长，精心指导肇县的土地改革试点。

1947年调任东北局委员、组织部副部长。1948年任东北行政委员会交通部长。