1902年11月26日  生于湖南省衡山縣寒水鄉(xiāng)南灣村（今屬衡東縣榮桓鎮(zhèn)南灣村）。1902年生。從1919年起先后在長沙協(xié)均中學和青島大學讀書，曾參加反對軍閥和帝國主義的愛國活動。1926年秋在青島大學預科畢業(yè)后赴廣州，旋回家鄉(xiāng)組織農(nóng)民協(xié)會，進行反對土豪劣紳的斗爭。

1927年4月到武昌中山大學讀書，加入中國共產(chǎn)主義青年團，隨即轉(zhuǎn)入中國共產(chǎn)黨。同年7月被派往鄂南通城從事農(nóng)民運動，參與組織通城、崇陽農(nóng)民武裝，任黨代表。這支武裝在江西修水編入武昌國民革命軍第二方面軍總指揮部警衛(wèi)團，他任特務連黨代表，參加湘贛邊秋收起義。經(jīng)三灣改編到井岡山，歷任第4軍(初稱工農(nóng)革命軍)的連、營黨代表。1929年底參加中共紅四軍第九次代表大會（古田會議），被選為紅四軍前敵委員會委員，會后任紅四軍第2縱隊政治委員。1930年8月任紅四軍政治委員，1932年3月起任紅1軍團政治部主任，江西軍區(qū)政治部主任，總政治部巡視員、動員部部長。曾兼任擴大紅軍突擊隊總隊長。1934年1月被選為中華蘇維埃共和國中央候補執(zhí)行委員，獲紅星獎章。同年9月任第8軍團政治部主任。長征中8軍團撤銷，他先后任總政治部巡視員，紅1軍團政治部副主任。1936年6月入中國人民抗日紅軍大學學習，并兼任培訓高級干部的第1科政治委員。1937年1月任軍委后方政治部主任，7月任第1軍團政治部主任。    

抗日戰(zhàn)爭爆發(fā)后，任八路軍第115師政治部主任。1937年8月底，率115師主力從陜西三原出發(fā)，東渡黃河，開赴山西前線。9月下旬起率師政治部和一部分部隊，在晉察冀邊界地區(qū)的阜平、曲陽一帶發(fā)動群眾，組織抗日武裝，建立抗日民主政權(quán)，為日后建立晉察冀抗日根據(jù)地創(chuàng)造了條件。1938年初到山西呂梁山地區(qū)，領(lǐng)導創(chuàng)建抗日根據(jù)地，與代師長陳光先后指揮午城、井溝和薛公嶺等戰(zhàn)斗，保衛(wèi)了黃河河防。同年秋參加在延安舉行的擴大的中共六屆六中全會，會后任115師政治委員，1939年3月初與陳光率115師師部和686團等部進入山東，首戰(zhàn)樊壩，全殲偽軍1個團，打開了魯西地西的抗日局面。8月，與陳光指揮梁山戰(zhàn)斗，殲滅日軍300余人。同年11月，與郭洪濤等趕赴（微山）湖西地區(qū)，迅速制止和妥善處理了濫捕錯殺的“肅托”事件，解救了大批受害干部和群眾。

115師進入山東后，與陳光指揮所屬各部隊，和山東人民抗日起義武裝組成的八路軍山東縱隊并肩與日偽軍作戰(zhàn)，執(zhí)行中共中央關(guān)于在統(tǒng)一戰(zhàn)線中堅持獨立自主的原則，團結(jié)抗日的友軍和愛國進步人士，孤立和打擊制造摩擦的國民黨頑固派。分別在魯西、魯南、冀魯邊、魯中、濱海地區(qū)發(fā)動群眾，建立抗日民主政權(quán)，發(fā)展人民武裝，鞏固和擴大了山東抗日根據(jù)地。    

1941年8月任山東軍政委員會書記。同年冬，日偽軍5萬余人“掃蕩”魯中抗日根據(jù)地，中共中央山東分局和115師師部等領(lǐng)導機關(guān)被日偽軍合圍于沂水留田一帶。他準確地分析敵情，掌握時機，出敵不意地率部向日軍占領(lǐng)區(qū)臨沂方向轉(zhuǎn)移，跳出敵人重圍。后又返回根據(jù)地中心地區(qū)，領(lǐng)導軍民堅持斗爭，挫敗日軍在山東進行的規(guī)模最大的一次“掃蕩”。

在抗日戰(zhàn)爭最艱難的1941-1942年，他在頻繁的反“掃蕩”斗爭中，領(lǐng)導進行精兵簡政工作，加強部隊黨的建設和政治工作，主持召開115師連隊政治工作會議，全面論述了政治工作的任務、原則和方法，強調(diào)保證戰(zhàn)斗與工作任務的完成，是政治工作的基本任務；實事求是、一切從實際出發(fā)，是政治工作的基本原則；民主的方法、群眾路線的方法、說服教育的方法。是政治工作的基本方法。1944年7月1日發(fā)表題為《學習毛澤東同志的思想》的報告，提出要“以毛澤東思想為遵循的方向”，要“宣傳毛澤東同志的建軍思想”，同時強調(diào)要以實事求是的科學態(tài)度學習和運用毛澤東思想。在干部工作上，堅持任人唯賢，公道正派。1944年9月，在山東軍區(qū)工作會議上提出，不能只在熟人的小圈子中，以合乎個人口味來衡量使用干部。他善于團結(jié)和使用各方面的干部，受到廣大干部的稱贊。

1943年3月任山東軍區(qū)司令員兼政治委員和115師政治委員、代師長，后任中共中央山東分局書記，統(tǒng)一領(lǐng)導山東抗日民主根據(jù)地的黨政軍工作。在日偽軍對山東抗日根據(jù)地進行頻繁殘酷“掃蕩”、“蠶食”的情況下，他領(lǐng)導實行部隊主力地方化，開展分散性、地方性、群眾性的游擊戰(zhàn)爭，加強對敵政治攻勢，同時主張堅持邊緣游擊區(qū)，使之成為外圍的擴張線和活動的跳板；他總結(jié)反“掃蕩”的經(jīng)驗，針對日軍對根據(jù)地實行的“鐵壁合圍”戰(zhàn)法，提出采用“敵人打到我這邊來，我就打到敵人那邊去”的“翻邊戰(zhàn)術(shù)”，即當敵人“掃蕩”時，把主力部隊部署在根據(jù)地邊緣地區(qū)，不在根據(jù)地內(nèi)與敵周旋，趁敵人的包圍圈尚未緊縮時，選擇空隙打到敵人的后方去。1942年11月初，日偽軍調(diào)集1萬余人合圍在魯中的山東軍區(qū)等軍政機關(guān)時，他運用“翻邊戰(zhàn)術(shù)”，指揮115師主力部隊，出敵不意地向隴海路挺進，6天內(nèi)連克靠近隴海路的海陵地區(qū)16處日偽據(jù)點，殲敵千余人，取得反“掃蕩”勝利。山東各根據(jù)地普遍采用“翻邊戰(zhàn)術(shù)”后，迅速扭轉(zhuǎn)了被動局面。

隨著軍事斗爭形勢的好轉(zhuǎn)，他領(lǐng)導部隊從反“掃蕩”為重點的防御作戰(zhàn)，逐步轉(zhuǎn)向攻勢作戰(zhàn)。從1944年起，向日偽軍發(fā)動了一系列戰(zhàn)役攻勢，相繼攻克日偽軍堅固設防的沂水、利津等縣城。連續(xù)爭取了多批偽軍起義，打通了山東各根據(jù)地之間的聯(lián)系。1945年指揮部隊進行大反攻，控制山東境內(nèi)的津浦、膠濟、隴海鐵路，包圍山東所有的戰(zhàn)略要點，收復了山東的大部縣城和廣大農(nóng)村，山東的八路軍發(fā)展到27萬余人。1945年6月，他被選為中共第七屆中央委員。

抗日戰(zhàn)爭勝利后，他率山東主力部隊6萬余人進軍東北，任東北民主聯(lián)軍副政治委員、東北軍區(qū)第一副政治委員、東北野戰(zhàn)軍政治委員。1949年1月任第四野戰(zhàn)軍第一政治委員。他作為中共平津前線總前委委員和人民解放軍平津前線政治委員，參與指揮平津戰(zhàn)役，主持和平解放北平的談判工作。1949年6月以后被任命為中共中央華中局(后為中南局)第二書記，華中軍區(qū)(后為中南軍區(qū))第一政治委員。    

中華人民共和國成立后，任最高人民檢察署檢察長。1950年4月任人民解放軍總政治部主任，同年9月兼任總干部管理部部長，1954年6月任中央人民政府人民革命軍事委員會副主席，1955年11月任中國人民解放軍監(jiān)察委員會書記。1952年領(lǐng)導籌建人民解放軍政治學院，后兼任院長。他是中共第八屆中央政治局委員，第一、第二屆全國人大常委會副委員長，國防委員會副主席。1955年被授予中華人民共和國元帥軍銜和一級八一勛章、一級獨立自由勛章、一級解放勛章。1963年12月16日病逝于北京。