1927年春，离苏回国，受中共派遣，到冯玉祥的国民联军所属西安中山军事学校工作，任政治处处长、学校中共组织的书记。4月12日，蒋介石在上海发动反革命政变，收缴工人纠察队武器，屠杀共产党员和进步人士。7月，到武汉，任中共中央秘书，更名邓小平。8月7日，列席中共中央紧急会议。会议结束了陈独秀右倾投降主义在中共中央的统治，确定了土地革命和武装反抗国民党反动派的总方针。12月，到上海，任中共中央秘书长。

1928年年初，和张锡瑗结婚。张锡瑗于1930年病逝。

1929年夏，以中共中央代表身份前往广西，领导党的工作，准备武装起义，化名邓斌。10月，任中共广西前敌委员会书记。12月，同张云逸、韦拔群等发动百色起义，创建中国工农红军第七军，任红七军政治委员、前委书记。

1930年2月，同李明瑞、俞作豫等发动龙州起义，建立中国工农红军第八军，兼任红八军政治委员。李明瑞任红七军、红八军总指挥。在广西右江地区11个县建立了革命根据地。

1931年2月，同李明瑞率红七军转战到江西崇义后，根据前委决定，赴上海向中共中央汇报工作。4月，在上海写出《七军工作报告》，详述了红七军、红八军的战斗历程。8月，到达江西中央革命根据地，任中共瑞金县委书记。

1932年7月，任中共会昌中心县委书记，支持毛泽东打破国民党军事“围剿”的战略战术和正确的土地政策，反对“左”倾路线。

1933年春，任中共江西省委宣传部长。5月，遭“左”倾路线打击，被撤销职务，受党内“最后严重警告”处分，到乐安县南村当巡视员。不久，调任红军总政治部秘书长。8月，主编红军总政治部主办的《红星》报。

1934年10月，随中央红军长征。年底，任中共中央秘书长。

1935年1月，参加在贵州遵义召开的中共中央政治局扩大会议。会议确立了以毛泽东为代表的新的中央的正确领导。6月，调任红一军团政治部宣传部长。10月，中央红军长征到达陕北。

1936年5月，任红一军团政治部副主任，后任主任。