1917年春入梅县中学，1919年参加五四爱国运动。

1921年春入广东法政专门学校；受共产党人和马列主义书刊的影响，1924年春加入中国共产党，同年底毕业后，即参加广东革命政府组织的东征军，任战地政治宣传员、宣传队负责人。

1925年7月，受党委派回五华县组织群众武装，领导农民运动，年底成立党的特别支部，任组织委员。古大存以省农民协会特派员的身份回到五华，推动农民运动，组织群众武装，配合国民革命军第二次东征。从此，掀开了他在东江地区轰轰烈烈的革命斗争生涯。他和战友们一起组织广大农民在五华全境建立农会，组建农民自卫这军，开展“二五”减租和反地主豪坤强勒收租斗争。一时间，五华农民运动风起云涌。“禁止米谷出口，智取张谷山，活捉李寿眉，打击张九华，年关大暴动等故事至今还在五华大地传扬。