1929年春，率农民武装粉碎了敌人的三次“围剿”。同年6月，任东江特委常委、军委书记，后成立东江工农武装总指挥部，任总指挥。

1930年5月，东江工农民主政府成立，任副主席。同时正式组成中国工农红军第十一军，任军长兼代政治委员。

1931年11月，被选为中华苏维埃共和国临时中央政府委员。

1932年8月，任东江红军第一路军总指挥；1933年10月，任东江游击总队政治委员。1934年任东江特委常委、组织部长、政治保卫局局长。

1935年春，率部突围后与党失掉联系，仍隐蔽在群众中坚持斗争。

1938年带病外出寻找党组织，经汕头、香港、广州到武汉找到八路军武汉办事处。同年9月，长江局任命他为中共广东省委统战部长。11月，粤、桂、湘、赣、沪、浙、闽、闽西南等地出席中国共产党第七次全国代表大会的代表四十余人组成代表团，任团长兼临时党支部书记。