，同年9月，毛泽东回到广州，参加国民党二大的筹备工作。10月，他被推荐为国民党中央宣传部代理部长。然而，国共两党的分歧和矛盾即便是在合作之初就已显现，头脑清醒的毛泽东始终以冷静的目光观察中国社会、分析革命阵营里的复杂情况。在当时统一战线和农民运动孰重孰轻的纷争中，毛泽东根据自己几年来的实地考察和全面总结，先后发表了《中国社会各阶级的分析》、《湖南农民运动考察报告》等著作，指出农民问题在中国革命中的重要地位和无产阶级领导农民斗争的极端重要性，批评了陈独秀的右倾思想。然而，幼年时期的中国共产党缺乏独立领导中国革命的经验，一切均听命于共产国际的指示，毛泽东的正确建议未能引起全党的重视。就这样，毛泽东虽然在1927年5月的中共五大上被选为中央候补执行委员，并被委以农委书记之职，但他提出的农运决议案却遭到了否决。

1927年4月，国共合作全面破裂，蒋介石向共产党人举起了屠刀，顿时，上海、武汉、广州等地一片血雨腥风、白色恐怖。中国共产党人奋起反击，在8月1日发动南昌起义，打响了武装反抗国民党反动派的第一枪。然而，敌我力量悬殊，起义不久就被敌军打散。在革命危急关头，中共中央力挽狂澜，紧急召开“八七会议”。毛泽东在会上提出“政权是由枪杆子中取得的”这一著名论断，表明了把武装革命进行到底的坚强决心。会后，中共中央派毛泽东改组中共湖南省委，并发动湘赣边界的秋收起义。

8月18日，改组后的中共湖南省委召开第一次会议，成立了以毛泽东为书记的中共前敌委员会。经过一系列的周密组织和准备之后，9月9日，秋收起义爆发了。工农革命军第一团胜利地占领了平江县龙门厂。10日，第二团在安源揭竿而起。毛泽东亲自指挥第三团战斗，相继歼灭反动武装一部。14日，起义军遭到敌人两个团的围攻，因寡不敌众被迫撤退。起义部队受挫使毛泽东不得不面对保存革命武装和继续革命的现实问题，在全面分析中国国情和当时的革命形势之后，毛泽东当机立断，提出把革命工作的重心由城市转移到敌人统治薄弱的农村去，在农村深入土地革命，发动农民群众，坚持武装斗争，保护和发展革命力量。19日，毛泽东在文家市召开前委会议，决定改变攻打长沙的计划，向国民党统治力量薄弱的井冈山进军。29日，部队到达江西永新县三湾时，召开了前敌委员会议，对部队进行了著名的三湾改编，确定了党对军队的绝对领导原则。随后，毛泽东指挥分兵两路，以游击方式挺进。10月27日，毛泽东率领的湘赣边界秋收起义队伍，艰苦转战一个多月，行程四千多里，终于将红旗插上了井冈山，从此开始了井冈山革命根据地的创建工作。1928年，朱德领导的起义部队前来井冈山会师，成立工农革命军（不久改称红军）第四军，工农武装割据的局面正式形成。