1886年12月1日生于四川省仪陇县一个佃农家庭。1909年初到昆明考进云南陆军讲武堂，同年加入孙中山领导的革命团体中国同盟会。1911年10月在云南参加辛亥革命武装起义。1915年12月参加反对袁世凯复辟帝制的战争。1917年7月任滇军旅长，在四川参加反对北洋军阀段琪瑞的护法战争。1921年春任云南陆军宪兵司令部司令官，云南省警务处长兼省会警察厅长等职。
在十月革命和五四运动的影响下，他逐渐接受马克思主义。1922年8月为寻求革命真理赴德国，在柏林结识周恩来和其他共产党人，加入中国共产党。曾在德国格丁根市一所大学里留学。1925年年内返回柏林，当选为中国国民党驻德支部执行委员，因积极从事革命活动两次被德国政府逮捕，并被驱逐出境。1925年7月到苏联学习军事。1926年夏回国，受中共中央派遣到四川军队中进行革命工作。1927年初到江西南昌创办国民革命军第三军军官教育团，培训革命军事干部。
1927年7月第一次国共合作破裂后，参加领导八一南昌起义，任起义军第九军军长。起义军南下广东后，主力在潮汕地区被国民党军队击败，他率领余部转至湖南南部，发动农民起义，建立苏维埃政权。1928年4月率部万余人上井冈山，同毛泽东领导的部队会合；随即成立工农革命军（不久改称红军）第四军，任军长，毛泽东任党代表。他和毛泽东指挥部队多次战胜国民党军的“进剿”、“会剿”，创建了井冈山革命根据地。