1892年生，曾用名刘伯坚，四川省开县人。1912年考入重庆军政府将校学堂。1914年加入孙中山领导的中华革命党。辛亥革命时期从军，参加了反对北洋军阀的护国、护法战争，任连长、旅参谋长、团长。1926年加入中国共产党。北伐战争时期，任国民革命军四川各路总指挥、暂编第十五军军长。1927年参加领导了“八一”南昌起义，任中共前敌委员会参谋团参谋长。后留学苏联，先后在高级步兵学校及伏龙芝军事学院学习，1930年回国。土地革命战争时期，任中共中央长江局军委书记，红军学校校长兼政治委员，中央革命军事委员会总参谋长兼中央纵队司令员，中央红军先遣队司令，中革军委总参谋长，红军大学副校长，中央援西军司令员。参加了长征。抗日战争时期，任八路军一二九师师长。解放战争时期, 任晋冀鲁豫军区司令员， 中原军区司令员，第二野战军司令员, 南京市军事管制委员会主任、南京市市长。

建国后，历任中共中央西南局第二书记，西南军政委员会主席，中国人民解放军军事学院院长兼政委，中央人民政府人民革命军事委员会副主席，军委训练总监部部长，高等军事学院院长兼政治委员，中共中央军委副主席，第一、二、三届国防委员会副主席。1959年4月起任第二至五届全国人大常委会副委员长，1980年辞去第五届全国人大常委会副委员长职务。1982年后因年龄和健康原因辞去党、国家和军队领导职务。是中共第七届中央委员，第八至十一届中央政治局委员。

1955年被授予元帅军衔, 曾获得一级八一勋章，一级独立自由勋章和一级解放勋章。

1986年10月7日在北京逝世，终年94岁。