1928年7月，党召开了第六届全国代表大会。彭湃被选为中央政局委员。不久，他便离开大南山，到上海去参与中央领导工作。行前，他谆谆嘱咐大南山的同志们：一定把红旗抗到底！

彭湃到上海后，担任中央农委书记，还直接参加江苏省委和军事部的领导工作。当时正处于革命低潮，帝国主义反动派到处搜捕革命同志，彭湃在刀丛虎口下坚持斗争。