双方面折庭争，讨价还价，最后孙科等人接受劝告，答应与广州的国民党中央言归于好，参加二全大会；而中共则答应停止攻击西山派，还承诺在国民党新的中央执委会中，中共人数不超过三分之一。
会谈之后，张国焘作为钦差大臣，到广州贯彻这一精神。他向鲍罗廷、陈延年（陈独秀的儿子，中共广东区委书记）解释，中央和孙科等人达成的协议，有利于分化瓦解西山会议派，这就是向右派进攻的一个主要方法。他提出三个亟待解决的问题：一、消除青年军人联合会和孙文主义学会的对立状态；这两个团体要么同时取消，要么合二而一；二、主动结束省港大罢工；三、要求国民政府采取明确政策，支持农民运动，改组地主民团的武装，满足农民减租减息的经济要求。
鲍罗廷和维经斯基，本来就是同桌吃饭，各自修行，并不完全合拍。对这个会谈，鲍罗廷只赞成中共减少进入国民党中央的人数，但不赞成向右派退让。现在是左派当家，应该强迫中间派跟着左派走，要他们无条件拥护国民政府和广州的国民党中央。鲍罗廷挖苦说：“上海中央只懂得全世界无产者联合起来，其他什么都不懂！只懂得原则，不懂得应用！”
大会前夕，汪精卫把中央委员的名单拿给中共看，张国焘主动将自己和瞿秋白的名字勾去，增加叶楚伧、邵元冲等人。他说：“即使我们在国民党中央委员中，多占了一些席位，除了引起国民党人士的反感外，我不信真能增强中共在国民革命中的领导地位。”
1926年1月1日，国民党二全大会开幕。大会宣言，继续执行孙文的“联俄、容共、扶助农工”政策，强烈谴责西山会议派，永远开除谢持、邹鲁党籍，其余居正、林森、叶楚伧、沈定一、邵元冲一干人等，各领警告处分，如不接受警告，则开除党籍；并通过工人运动、青年运动、农民运动、商民运动、妇女运动等一系列决议案。
蒋介石作为浙江代表出席了会议。两年前，他还不得一全大会之门而入，现在不仅昂然坐在代表席上，而且代表军事委员会作军事报告，俨然是统一广东的第一功臣，全场为之欢呼。有代表提议，全场起立向蒋同志致敬。蒋氏以高票当选中央执行委员，并在紧接着召开的二届一次全会上，还当上了中常委、国民革命军总监，终于跨进了他梦寐以求的国民党最高权力机构。
大会选举结果，在36名中央执行委员中，中共党人李大钊、林伯渠、吴玉章、恽代英、谭平山、于树德、杨匏安占了七席；毛泽东后来说：“有很多人反对我们，说中央委员会的委员是三十六天罡星。”
毛泽东当选为候补中央执委兼宣传部长，其后又在新成立的国民党农民运动委员会里担任委员，兼国民党广州农民运动讲习所所长。中央党部秘书处全部由中共党人包办；在组织、宣传、青年、工人、农民、商业、妇女、外事八个部中，三个部长由中共担任，七个部的秘书由中共担任。中共在国民党内的实际力量，并未减弱。1926年2月，在共产国际执行委员会主席团会议上，维经斯基自豪地说：“在国民党中有我们共产党。共产党实际上领导着国民党。”
鲍罗廷也头脑发热，认为广州已是左派的铁打江山，再没什么可担忧的了，他甚至扬言，“中国是一个无人地带”，傲睨得志之态可掬。2月4日，鲍罗廷以“回国述职”为由，向国民党中央政治委员会请了一个月假。他的职务由另一名苏联顾问季山嘉代理。鲍罗廷一走，到4月下旬才回到广州，超假一个多月。周恩来形容这一时期，共产党“中央无主”，而右派却“纷纷回粤”，政治形势十分严峻。
鲍罗廷回国去了，苏联军事顾问加伦到冯玉祥那里去了，执委中的党员大部分都走了，以至汪精卫问我们还帮不帮助他。正在这时，陈独秀因病躺起来，总书记“失踪”，中央无主……
陈独秀病了，因伤寒住进了医院，从1925年12月26日至1926年2月22日，确实没有人能找到他，令中央机关人心惶惶，但2月下旬他就重新主持中央工作了。陈独秀对“共产党领导国民党”不仅缺乏兴趣，而且疑虑重重。几天以后，广州风云突变，发生了一件他担忧已久的事情，整个大局，几乎被完全翻转了过来。
2月，一个由布勃诺夫率领的联共（布）中央政治局使团，到达中国，3月中旬抵达广州时，这个南方城市，已是暗潮汹涌。
东征结束以后，青年军人联合会与孙文主义学会的矛盾，愈演愈烈，在军队中几乎公开化了，两个对立的政治团体，互唱对台，黄埔二、三期学生中，尤其激烈，经常大打出手，“始则为个人之争，继则为会别之争而影响于全校、全军”，甚至蔓延至军队以外，在工人、学生中，形成你呼我应之势。中山大学学生组织了一个“广州孙文主义学会”，与军校的孙文主义学会结成同盟；上海的马超俊、黄季陆、邓公玄、梁栋等人，也组织起“上海孙文主义学会，人数多达上千，随后，南京、浙江、芜湖、九江、武汉、常德、重庆、成都、西安、潮汕等地，亦纷纷成立孙文主义学会。
双派在群众集会等公开场所，动辄拳脚相交，棍棒齐下，“虽倾珠江之水不能洗净此过去之瑕疵，尽泰山之土不能填塞此意气之裂痕”。引起蒋介石的极大不安。这种情形，甚至连一些苏联顾问，也认为是由于中共介入国民党工作过深，惹得国民党人猜疑与不满。他们批评说：
当初共产党人于工作时，只知利用国民党，在其覆翼之下扩大己党之力量，不知从事于国民党之建设及注意于国民党之左翼，公然攫据国民党之最高管理机关及军队中之政治机关，包办工农运动，以此引起国民党大多数之不满。
…………
前项情形在军队中为尤甚，军队中政治工作人员占据重要地位，遍布党羽，秘密从事于该部分长官所不知之工作，惹起各级军官及非共产党部分工作人等之嫉忌。非共产党人大部分为孙中山学会中之积极分子，多被排挤而失去优越地位。兹列举两种事实以证明之：黄埔军队各师部内五委员中有共产党员四人（军团政治部部长即系共产党）。而各团中之委员16人有5人为共产党，11人为国民党，各连中国民党更占多数。
后来担任国民党组织部秘书的陈果夫说，1926年5月他到组织部时，“中央秘书处由三个共产党员林祖涵、谭平山、杨匏安在把持。组织部完全在共产党之手。宣传部也半入于共党之手。其它各部均在共党操纵之下，本党无法闻问。可以说本党已经为共产党完全篡夺去了。在各省市方面，党务大半为共产党所主持。即未为所夺，也一定分为左右两派。常向中央互相攻讦，党务不能进行。下层已无基础可言，在这种情形之下，对于用人十分困难。”
鲍罗廷主张召回部分在军队中工作的中共党员，以安抚蒋介石的疑心，缓和两党关系。但他离开广州后，他的代理人季山嘉，态度却截然相反。季山嘉坚决反对共产党退出军队，他说：“从军队中召回共产党员，百分之九十有碍于我们在军队中的工作，百分之百有利于国民党右派的工作。”他声称这是他与鲍罗廷之间“原则性的意见分歧”。他甚至向上司要求撤换鲍罗廷，“必须向广州派遣一名新的强有力的工作人员，并且必须是优秀党员”。言下之意，鲍罗廷连这两条都达不到。
季山嘉强烈主张，共产党要夺取军队的领导权，他在一封致中共中央的信件中说：“目前在中国，无产阶级是以国民革命运动的领导者姿态出现的，民族资产阶级已开始离开领导岗位。这是显而易见的和毫无疑义的。无产阶级能让军队这样强大的斗争武器摆脱自己的影响吗？无产阶级能无视历史上必然要落到它头上的组建和筹备武装力量的工作吗？”
季山嘉要以“历史上必然”的理由去夺军权，自然成了蒋介石眼中之钉，同时也促使他下决心解决军队中的党务纷争问题。1926年2月2日，蒋介石召集青年军人联合会和孙文主义学会的骨干分子，在黄埔开联席会议，根据蒋的意见，作出四项规定：一、青年军人联合会、孙文主义学会干部可以互相加入；二、两会在军校和党军中要接受校长和党代表指导；三、团长以上高级长官（党代表除外）不得加入两会；四、两会会员对此有不谅解，由校长和党代表解决。
作为青年军人联合会代表，代理海军局局长、参谋厅长李之龙，出席了联席会议。这位1921年加入共产党的湖北人，和蒋介石关系融洽。几年前，他还在黄埔一期读书时，有一次蒋介石邀请一些学生到他家作客，宣称在家里藏了三件宝贝，让学生们去找。
大家都猜不出校长有什么宝贝，但李之龙却把三件“宝贝”全找出来了：《曾文正公家书》、《曾胡治兵语录》和《俾士麦传》。蒋介石兴高采烈地说：“李之龙到底是我的好学生，懂得校长的心意。”毕业后，李之龙一直在蒋介石身边工作。
然而，在历史上，李之龙并不是以蒋介石的得意学生留名，而是以“中山舰事件”的主角之一名垂史册。
在那一年的春节前后，广州冒出了很多针对蒋介石的谣言，造成一种疑云密布、人心浮动的空气。据李之龙说：
第一次的谣言是说：李济琛（第四军军长）阴谋倒蒋，省中发现假冒第四军攻击蒋介石的传单，说蒋是吴佩孚第二，吴佩孚宣言不做督军做巡阅使，蒋介石宣言不做军长做陆军总监，并且兼并各军军官学校，都是想做大的军阀的企图。第二次的谣言说：第一军要缴第四军的械。第三次的谣言说：二、三、四、五各军与海军联合倒蒋。第四次谣言说：蒋介石对俄械分配于各军不满，将驱逐俄顾问全体回国。第五次的谣言说：蒋介石倒汪。
这些谣言到底出自哪里？众说纷纭。李之龙说是西山会议派的人造的，而蒋介石则一口咬定是苏联顾问和共产党造的。据苏联顾问了解，在事变前几天，“蒋介石曾接恫吓之书信数件”。蒋介石的个性，本来多疑，总觉得四周充满了“疑我、谤我、忌我、诬我、排我、害我”之人。2月8日，蒋介石突然提出辞去国民革命军总监之职，次日再请辞军事委员会委员及广州卫戍司令等职。汪精卫对蒋的辞职，“既不批准，亦不挽留，如此留中不发者半月之久”。
蒋介石高调辞职，是为了表达抗议，他要抗议的人是季山嘉。蒋介石愤怒指责这位苏联顾问“明目张胆，破坏本党的北伐计划”。
俄国军事顾问团长季山嘉忽在军校会议中，极力宣传北伐必败之谬论。他对我面谈的时候，反对北伐的意思，也逐渐暴露出来。广州市面接连的散播传单，反对北伐，并攻击我个人为新军阀。
所谓破坏北伐计划，主要是因为苏联顾问认为，1926年北伐的时机尚未成熟，应先在北伐沿线各省份，发动群众，把工人、农民武装起来，然后才进行军事行动。在北伐路线上，苏联顾问主张打到武汉后，转向西北，与冯玉祥的西北军会师。据蒋介石说：“季山嘉提议，派兵由海道运往北方，此为其儿戏欺人之谈，实为其根本打消北伐之毒计，弟即知其无北伐之诚意。” ③蒋介石则坚持要先打东南沿海地区。双方格格不入，难以调和。
2月27日，蒋介石找到汪精卫，强硬提出，如果不准他辞职，就要叫季山嘉卷铺盖走人。他们已无法共事。汪精卫嗯嗯哼哼，没有明确答复。在蒋介石看来，汪氏是苏联顾问的保护伞。3月8日，他再次对汪氏说：“革命实权不可落于俄人之手，即与第三国际联系，必须定一限度，不可丧失自主地位。”但汪精卫依然不予理睬。
3月10日，蒋介石一怒之下，收拾行装，准备乘船去上海了。在天字码头登船时，有人劝他，我们手中有军队，没什么可怕的，可以在广州大干一下。蒋介石觉得有理，又改变主意留下了。他说：
到了3月14日，汪仍未批准我的辞呈，而间接暗示我离粤。此时我方知道如我不离粤，不测的事件就要发生。但我既辞职而未获准，如果自动离粤，又陷于弃职潜逃的罪名，真使我进退维谷。
蒋介石是真的感觉“进退维谷”，还是早已下了“大干一场”的决心？这恐怕只有蒋氏自己才知。但当时的实际情况，是蒋介石要赶走季山嘉，而不是季山嘉要赶走蒋介石。这是整个事件变化发展的症结所在。如果当时有人把种种迹象联系起来，也不难感觉到，一场大风暴，已在集结与酝酿之中。只不过，季山嘉没有预料到，共产党人也没有预料到。
