3月间，在蒋介石控制的江西地区，爆发了一连串针对共产党的暴力事件，显示蒋介石在经过对成本效益的反复权衡和沙盘推演之后，终于开始动手了。
3月11日，江西赣州总工会委员长陈赞贤（中共党人）被杀；16日，左倾的国民党南昌市党部、江西省学联被解散，左派报纸《贯彻日报》被封闭，几百名手持刀剑、棍棒的青帮分子，在街头叫嚣示威；17日，九江总工会、市党部和《国民新闻》社被捣毁，工会多人被打死、打伤，党部被解散；23日，安庆也发生杀害共产党人和工人的流血事件，安徽省党部、安庆市党部、省总工会、省农民协会、安庆市妇女协会等机构，均被青帮分子砸烂，洗劫一空。
国共处在一种非常奇特的合作关系之中，本来，道合则从，不合则去，是儒者进退的大节，哪怕做生意也一样，利益一致就合作，利益冲突就分家，本属平常之事，但由于一开始实行“党内合作”的形式，造成你中有我，我中有你，权责利错综复杂，纠缠不清，现在想分也不易分了，就像湿手沾上干面粉，甩也甩不掉，非要闹到罐破水洒，血流成河的地步不可。
中共中央对蒋介石，早已不抱幻想。3月26日，即蒋介石到达上海的当天上午，由中共中央和上海区委组成特别委员会，在陈独秀的主持下，召开会议，大家誓言：“我们现在的责任，就是挽救这个全国的危机，要严阵以待，集中兵力，并将吴淞及南市大部分兵力调来，四周布防，保护上总与俱乐部。我们要准备一个很大的防御的流血的牺牲，这个争斗比这次暴动的意义更大。幸而胜则已，不幸亦可影响全国，断绝蒋之政治生命”。一种悲壮的牺牲精神，令人热血沸腾。
蒋介石2月与维经斯基见面时，曾表示很久没有和共产党的领导人谈话了，现在出现国共决裂的局面，他想见见陈独秀。但从3月底至4月初，蒋介石三次约请陈独秀见面谈话，都被对方托病推辞。蒋介石大怒。
陈独秀认为和反革命已没什么话好说，中共与上海工人已做好以死相拼的准备。一度不赞成强行收回租界的上海区委，现在也改变初衷，向党员们发出号令：“反对反动的新军阀，积极响应宁案，举行反英大罢工，达到收回租界的目的。我们要随时随地准备武装与右派军队发生总决斗。”“如果上海工人把右派打倒，租界收回，在革命的前途非常伟大。” ③
不过，3月28日，联共（布）中央政治局一纸电报，却给他们泼了一瓢冷水，莫斯科警告说：“请你们务必严格遵循我们关于不准在现在举行要求归还租界的总罢工或起义的指示。请你们务必千方百计避免与上海国民军及其长官发生冲突。” 刚刚踩下油门的陈独秀，马上又要踩刹车了。
当天，总工会派交际部主任赵子敬为代表，往谒蒋介石于徐家汇交涉公署。
蒋介石亲出接见。首由赵陈述上海总同盟罢工响应北伐军之经过，蒋氏频为赞许。次说传闻有将闸北薛岳师长调驻他处，由第二师长刘峙驻防，并将敝会纠察队缴械消息，请总司令一言以释群疑。蒋答：纠察队本应武装，断无缴械之理，如有人意欲缴械，余可担保不缴一枪一械。复由赵陈述恐有流氓乘机捣乱纠察队及敝会事情，蒋答此事当由余严行制止，尽可放心。
然时至今日，无论是虚与委蛇的官腔，还是貌似诚恳的温良软语，都已难以令人信服。3月30日，中共特委开会。大家“检讨当前极度危险的局势，一致认为，除了坚决采取行动反蒋外，别无其他出路”。但大家也明白，莫斯科之命不可违，这也是别无其他出路的。陈独秀一面复电莫斯科，说蒋介石已开始发动政变，中共必须有所准备，一面派彭述之去南京联络第二、六军反蒋，并赴汉口向鲍罗廷及中共中央多数委员陈述意见，决定进攻蒋介石的计划。
据彭述之自述：
我于1927年3月底离开上海去南京，因为国民革命军第二和第六军驻在南京。这两支部队仍然是国民党左派的一部分，是反对蒋介石的。这两支部队中的政治委员都是共产党员；还有许多党员在其中担任其他政治工作和军事工作。所以，我到南京以后，中共南京分部的书记就同第二和第六军中的干部和一些俄国顾问召开了一个紧急会议。我在这个会议上报告说，中共中央主张实行武装斗争来反对蒋介石正在准备的反共政变。讨论的结果是，全体赞同中央的计划，特别是俄国顾问们也表示赞同。根据对驻在上海、南京、无锡等地的部队的分析，使用军事力量来战胜蒋介石是可能的。
然而，他们的“武装斗争”，到底有没有具体方案？是发动兵变？把蒋介石和他的支持者抓起来？杀他个措手不及？还是把队伍拉走？与蒋介石战场上见？彭述之没有详言，倒是后来几位在上海工作过的苏联人，在给莫斯科的报告中说，他们原计划派两三千名工人加入到薛岳的第一师里，这样，他们在上海就拥有八千至一万名支持武汉政府的军队，可以与支持蒋介石的第二师（三千人）对抗。他们还计划让左派的第二十一师向上海方向集结，第二军、第六军向南京和苏州集结，从而在根本上改变军事力量的对比。他们说，薛岳甚至频频征求中共意见，他该做些什么，但中共方面始终没有明确回答。③结果蒋介石得以从容地把第一师调离了上海。
无论如何，国共两党的关系，都已到了图穷匕见的阶段，只有子弹才能解决问题了。现在只是看谁先下手，是共产党先杀蒋介石，还是蒋介石先杀共产党。
陈独秀对武汉收回租界之举，不以为然；而武汉对上海工人起义，同样不以为然。武汉频频致电上海，催促陈独秀把中央机关迁到武汉，“他们以为国民政府在武汉，一切国家大事都该集中力量在武汉谋解决。” 陈独秀一肚子怨气，认为莫斯科和斯大林的许多脱离现实的指令，都是听了鲍罗廷一面之词的结果，因此，他坚拒赴汉。尽管当时大部分中央委员都已去了武汉，上海只剩下陈独秀一人，但他仍坚守不去。
4月初，在武汉的中共中央委员和共产国际代表，以及湖北区委召开联席会议，决议把中共中央迁到武汉，催促陈独秀尽快动身。4月2日，联共（布）中央再发来一道金牌，要求中共中央：“一、在群众中开展反对政变的运动；二、暂不进行公开作战；三、不要交出武器，万不得已将武器藏起来。” 陈独秀大失所望。这表明莫斯科打算牺牲上海工人来讨好蒋介石。
维经斯基也认为指示无法执行，他要求中共，如果蒋介石用武力解散上海市政府，就以武力对蒋氏反击。但他的这个指示，同样是无法执行的，因为中共在上海工人中的那点武装力量，根本不足以翻转大盘。陈独秀和上海特委被这些来自不同方向的指示，搞得头昏脑涨。
斯大林不想与蒋介石马上决裂，是觉得蒋介石目前还有利用价值，是一只“还没完全拧干的柠檬”，斯大林自信地说，对蒋介石“应该利用到底。从他们身上能榨多少就榨多少，然后才将他们像榨干了的柠檬一样扔掉”。③斯大林寄希望于汪精卫，认为汪一出场，就可以制衡蒋介石，形成强有力的国民党左派势力，迫使蒋柠檬屈服。因此，苏联不断想方设法让汪精卫尽快回国。
早在2月17日，联共（布）中央政治局会议，就发出指令：“最高领导机构坚决要求采取一切措施敦促汪精卫尽快来莫斯科，以便共同讨论有关中国事务的问题。” 同时在中国国内掀起一波一波的“迎汪”浪潮。陈独秀也认为，既然和蒋介石合又合不了，分又分不开，那么，破解危局的唯一希望，就在汪精卫身上了。汪精卫是最负盛名的左派领袖，又是“三二○事件”的第一受害者，在这一点上，中共中央与莫斯科总算达成了一点共识。
汪精卫自从“三二○事件”之后，避居巴黎，养晦待时，整整一年，这时也开始有点静极思动了。3月8日，汪精卫自德国柏林抵达苏联，获得斯大林的亲自接见，讨论中国革命的问题。手捏烟斗的斯大林，看似胸有成竹，其实对中国的情况不甚了了，他想利用汪精卫去榨干蒋介石这只“柠檬”，足证他的很多判断，都属想当然耳。
3月12日，汪氏从莫斯科起程，经西伯利亚海参崴回国。4月1日，抵达上海。陈独秀喜之不胜，认为终于守得云开见月明，他与周恩来商议，不如把汪精卫直接送到汉口，不要让他在上海与蒋介石见面。
但怎么才能不让汪蒋见面呢？除了他们自己不想见之外，没有一个可行的办法。结果，汪精卫当天就在上海与蒋介石、吴敬恒、蔡元培等人见了面。在蒋介石眼里，汪精卫未尝不是一只“柠檬”。你欲榨人，人亦欲榨你。因此，蒋柠檬也努力阻止汪柠檬去武汉。他对汪精卫恺切陈词：“你切不要到武汉去。你去了，一定不能回来，那时，你不想做共产党的工具亦不能了。你如果真正为本党，那就要到南京去，然后再请一班中央执行委员过来。如果你到武汉去，国民党还是不能团结，你还是要做本党的罪人。”但汪氏顾左右而言他。
4月2日，两广的李济琛与黄绍竑也到了上海。蒋介石、白崇禧、何应钦、吴敬恒、李宗仁、李济琛、黄绍竑、陈果夫、陈立夫等人，遂在东路军前敌总指挥部，正式召开“清党会议”。汪精卫没有出席这次会议。蒋介石首先发言：“十三年（1924年）国共合作，共产党加入国民党的时候，他们（指共产党）就不怀好意，他们的组织仍然保存，并且在我们党内发展组织。自十五年（1926年）3月20日中山舰事变之后，这种阴谋日益暴露。北伐军到了武汉，中央某些机关和某些人受了分化或者受了劫持，不把武汉同南昌对立起来。因此，如果现在不清党，不把中央移到南京，建都南京，国民党就要被共产党所篡夺，国民革命军就不能继续北伐，国民革命就不能完成。”
何应钦指南京事件，完全是“共产党鼓动士兵和地痞流氓抢了、打了外国领事馆和外国侨民，才引起外国兵舰开炮轰击的。”白崇禧在发言时，则称上海工人纠察队“他们有自己的武器，有自己的指挥系统，不服从军事长官的指挥。他们要冲入租界，占领租界”，一旦上海发生中外冲突，“不但全国精华的上海完了，北伐事业也要完了”。
