為了培養起義的骨幹力量,彭德懷向周磐力薦黃埔軍校卒業生黃公略開辦隨營學校。好友多年未見,彭德懷設宴為黃公略接風,黃公略隨身帶著中共廣東省委的介紹信。
軍隊奉命開赴平江,彭德懷決定在平江組織武裝起義。臨行前,彭德懷讓妻子劉坤模隨弟弟一起回老家。
為了更好地指導起義,中共湖南省委特派員滕代遠化裝成商人來找彭德懷。正當起義有條不紊地籌備時,國民黨特務查到了長沙的一個共產黨地下機關,從中搜出了黃公略的親筆信,彭德懷處在危險之中。
1928年7月22日,彭德懷率領800勇士衝進平江城,解除了平江軍警2000人的武裝,工農紅軍第五軍正式成立。彭德懷任軍長,滕代遠為黨代表。
湖南省主席魯滌平急令張輝瓚對彭德懷領導的紅五軍進行“圍剿”。