国民党内部对孙中山的“容共”政策，一开始就存有意见分歧。反对中共跨党的声音在孙中山“容共”之初就已传出。冯自由、马素、邓泽如、林直勉、刘成禺、谢英伯等一批人，在孙中山酝酿改组国民党时，即明确表示反对共产党跨党。据国民党一大前夕上海中央干部会议的记录，张继、彭素民、张秋白、居正、吕志伊等人在会上不同程度地对共产党加入国民党表示疑虑。北京、上海、汉口等地均有因共产党员跨党而引发的纠纷发生。综括各种反对的理由，主要有这样几种：（1）认为中共受苏俄操纵指使，背后别具阴谋；（2）认为两党“主义”不合，不能相容；（3）担心中共喧宾夺主，“恐本党名义被彼利用”，国民党将因此而“失却独立之地位与组织之中心”；（4）对大党之内包容小党的合作形式表示疑虑，譬如“孙行者跳入猪精的腹内打跟斗，使金箍棒，猪精如何受得了”；（5）对中共党、团员加入国民党后，是否对国民党忠诚表示怀疑，认为中共“未必可以完全服从于我”，不过“借国民党之躯壳，注入共产党之灵魂”。
中共党、团员加入国民党后，势必与国民党原有党员争夺政治资源。国民党一大代表选举时，各地中共党员“居然以少数竞选胜利”，使一些老国民党人甚感不安和不快。一大产生的国民党中央执监委员会中，新加入的共产党人占了近四分之一的席位，一些重要的职能部门亦落入共产党人的掌控中。国民党中央党部从上海移驻广州，脱离了老党员聚集的中心地上海。党内新选任的干部大都是支持“容共”政策的中青年党员。过去长期得到孙中山倚重的一批老党员受到冷落，甚感失落和不满。如居正、谢持等人或不辞而别，或去乡下务农，以示消极抗议。另一位长期协助孙中山从事党务组织和宣传活动的田桐，在得知一大选举结果后，专程从上海赶赴广州，当面向孙中山“抗争三次”，不得结果，郁郁而归。
国民党一大闭幕后，孙中山任命共产党员谭平山为国民党中央组织部部长，负责国民党的组织发展工作。谭平山在分派人员筹建和拓展各地地方党务时，自然更多地依靠共产党员和青年团员，从而使不少国民党地方党部落入共产党人的掌控中。这难免影响了相关地区国民党人的既得利益。一些地方的工会、学生会等民众团体和基层党部，相继出现两党党员的纠纷与冲突，有的展开理论争辩，有的由文斗演为武斗。
国民党改组前，其老党员主要是一批海外华侨和国内知识精英。他们的家庭出身和切身经验使他们很难接受共产党人的阶级革命理念。而激进的青年共产党人坚信自己的阶级地位和政治觉悟均优越于国民党人，有意想“改造国民党”，对国民党不时发表一些批评性言论，令国民党人甚感不快。胡汉民本是拥护和支持“容共”政策的人，但他对中共的某些说法，比如把国民党与民族资产阶级划等号，而认为自己代表无产阶级，就表示不能接受。1924年5月14日《广州民国日报》发表文章指出：近有所谓新青年者，好规人过失，不满于民国纪元前之革命运动，尽情嘲骂，不留余地，徒震惊于俄国革命，认为创举，仅以成败论英雄，完全不把国人崇敬之先烈放在眼内云云，大致代表了国民党人对中共批评的反应。
根据共产国际的组织章程，中共作为共产国际的支部，必须服从共产国际的指挥。共产国际实际又受俄共中央的直接领导。在这种情况下，国共两党对苏俄的态度自然有所不同。一个典型的例子：1924年3-4月间，苏俄与北京政府准备签订《中俄解决悬案大纲》，为了配合苏俄政府对华外交谈判，且基于列宁关于民族自决的观点，中共在舆论宣传上不仅公开主张北京政府与苏俄政府相互承认，而且公开发表文章主张予外蒙古以自决权。而国民党人对苏俄的做法则大多持激烈的批评甚至抨击态度。两党党员为此展开了一场公开的论争。国民党员孙镜亚向孙中山检控李大钊等中共党员“违反党纪承认北京政府”；朱和中亦上书孙中山批评上海《民国日报》和《新青年》等报刊在中俄条约及外蒙古问题上“出言不慎，招惹是非，影响本党甚巨”。孙中山分别指示：“着中央执行委员会查明有无其事；着中央执行委员会严颁纪律，禁止本党各报之狂妄。”
孙中山的态度鼓舞了本来对“联俄容共”政策持怀疑和反对态度的国民党老党员们。1924年4月，国民党老党员们寻获到一册中国社会主义青年团《团刊》（第7号），内中载有1923年6月中共三大所作《关于国民运动及国民党问题的决议》、中共中央三届一中全会关于《同志们在国民党工作及态度决议案》和中国社会主义青年团第二次全国代表大会及扩大中央执行委员会会议之报告及决议等文件。严格说来，这些中共党团文件，尚是国共合作之初中共告诫党团员在国民党内谨小慎微、自我约束、注意与国民党人团结合作和帮助国民党发展组织的有关决议，对国民党并无“破坏”之阴谋。但国民党老党员们仍对这些文件反响强烈。主要是这些文件证明了中共在国民党内进行秘密的有组织的“党团”活动，并有在国民党左派中吸收党员、扩展组织的计划和指示。如文件中提到：“我们加入国民党，但仍旧保存我们的组织，并须努力从各工人团体中，从国民党左派中吸收真有阶级觉悟的革命分子，渐渐扩大我们的组织，谨严我们的纪律，以立强大的群众共产党之基础。……本团（指社会主义青年团）团员加入国民党，当受本团各级执行委员会之指挥，但本团之各级执行委员会，当受中国共产党及其各级执行委员会对于团员加入国民党问题之种种指挥。本团团员在国民党中：（1）应赞助中国共产党党员之主张，与其言语行动完全一致；（2）本团应保存本团独立的严密的组织。”
国民党老党员们对中共在国民党内从事“党团”活动早有怀疑，但一直苦于没有证据，故当获得这批中共党团文件后，颇为兴奋。6月18日，张继、谢持、邓泽如等以国民党中央监察委员的身份将上列中共党团文件提交给国民党中央执行委员会第39次会议，并提出弹劾共产党案。考虑到孙中山的“容共”政策不能触动，弹劾案特意申明不反对“容共”政策，只从党纪角度弹劾共产党。弹劾内容主要有以下几点：
1.为国民党之生存发展着想，绝对不宜党中有党；“以跨党之人，同时办理两党同一之事，而其人偏重于固有之党，其结果可以想见”；中共在国民党中有党团活动，即表明不忠实于国民党，欺蒙总理。
2.中共经常以其对于时局之主张，强加于国民党，如苏俄与北京政府签订《中俄解决悬案大纲》，相互承认对方政府为一国之合法政府，中共竟以苏俄之立场为立场，只知有第三国际，未尝计及国民党。
3.中共党、团员既加入国民党为党员，即不应对国民党的主义及行动妄加批评和指摘，而共产党人竟在国民党报纸上作“国民革命为资产阶级不彻底之革命”之类不利于国民党的宣传。
在6月18日的会议上，张继、谢持与廖仲恺为弹劾共产党案发生了激烈的争执，会议不欢而散。6月25日，谢持、张继在广州东山鲍罗廷寓所，就中共“党团”问题与鲍罗廷进行了两个半小时的论辩。张继认为，中国共产党本来无足轻重，但苏俄通过中国共产党人加入国民党来操纵中国革命，中国共产党成了“俄国之子”，而中国国民党只是“俄国之友”。鉴此，张继、谢持单刀直入地质问鲍罗廷：“中国共产党不能自己作主，须受第三国际指挥，第三国际为苏俄所创造，又须受苏俄指挥。然则俄国对中国革命，究取何种态度？是否只求友于中国国民党，抑同时扶助共产党，双方并进乎？”针对张继、谢持的诘问，鲍罗廷一方面承认“第三国际认定中国革命只能用国民党党纲，不能用他种主义，故使中国共产党及社会主义青年团全部加入国民党”；另一方面鲍又历数国民党的缺点，申言“国民党已死，国民党已不成党，只可说有国民党员，不可说有国民党。加入新分子如共产党者，组织党团，可引起旧党员之竞争心，则党可复活”。张继、谢持认为中共在国民党内作“党团”活动是万不能容许的。鲍罗廷毫不含糊地回答说：“今日两者本互相利用，国民党利用共产党，共产党利用国民党，唯两相利用之结果，国民党更多利益。”张继、谢持对鲍罗廷的强横态度十分不满。
在监察委员弹劾案提出前后，国民党中央还收到约20件来自北京、上海、广州等地国民党人控告共产党的案件，列名连署的党员在2000人左右。控告的理由，不外中共在国民党内另树一帜，假借名义，操纵把持，不忠于国民党，主张两党只可合作，不可合并，要求开除共产党员的国民党党籍等。值得注意的是，在中共党内，也有人担心共产党会被国民党溶化而主张与国民党决裂者。这意味着两党内部均有人顾虑“党内合作”形式会使各自的党吃亏。
7月3日，国民党中央执行委员会召开第40次会议，张继、谢持再次提请与会委员对弹劾共产党案详加讨论。出席会议的国民党中委共10人：胡汉民、汪精卫、廖仲恺、邵元冲、林森、张继、林祖涵、邹鲁、柏文蔚、谭平山。会上，张继与谭平山展开了长达两个小时的激烈争论。张继主要提出如下几点看法：
1.苏俄企图获取指挥和控制东方革命的权力；
2.苏俄既与革命政府保持密切关系，又与北京政府签订协定，是一种不光彩的行为；
3.国民党内的共产党员会控制国民党的事业和行动；
4.自共产党加入国民党以来，只给国民党带来了麻烦。
谭平山针对张继的言论一一予以反驳。汪精卫、廖仲恺、林森、柏文蔚等亦表示不赞同张继的一些说法。胡汉民、邵元冲则建议召开专门会议来研究解决，并请总理孙中山直接征求第三国际的意见。会议最后决定提请孙中山召集中央全会讨论解决。孙中山同意在8月中旬召开一次中央全会来讨论解决共产党的问题。
获悉国民党将开专门会议来裁决共产党问题，中共中央领导人甚表不满。7月13日，陈独秀致信维经斯基，告知这一情况，认为“孙中山虽不会马上抛弃我们，但根本无意制止反动派对我们的攻击”。陈独秀对国民党内的左右派作了重新界定和划分。他认为，国民党内主要是右派反共分子在活动，如果说还有一定数量的左派，那是我们自己的同志；过去认为是左派的孙中山和另外几个国民党领导人，其实只能算是中派，而不是左派。陈独秀断言，如果现在支持国民党，就只会是支持国民党右派。陈独秀要求共产国际制定新的政策，“我们不应该没有任何条件和限制地支持国民党，而只支持左派所掌握的某些活动方式，否则，我们就是在帮助我们的敌人，为自己收买反对派。”
7月21日，中共中央向各区委、各地委和各独立组织发出通告，布置新的应对之策，强调“我们在国民党的工作，甚重要而又极困难，各地同志应有不断的注意与努力！”通告指出：自中共中央扩大执行委员会召开后，国民党内的大部分党员对我们或明或暗的攻击、排挤日甚一日，只有极少数领袖如孙中山、廖仲恺等尚未有和我们分离的决心，然亦决不愿开罪于右派分子。鉴此，“我们为图革命的势力联合计，决不愿分离的言论与事实出于我方，须尽我们的力量忍耐与之合作”，但对于国民党“非革命的右倾政策，都不可隐忍不加以纠正”。中共中央为此提出了五条应对之策：
1.向国民党中央反映不满右派的意见，检举右派的错误言行；
2.在国民党各级党部开会时，开展左右派不同政见的讨论；
3.今后凡非表示左倾的分子，不介绍入国民党；
4.努力争取或维持本党对工人、农民、学生及市民各团体的控制权，尽力排除右派势力的侵入；
5.在各地组织“国民对外协会”，以形成国民党左翼或“未来的新国民党之结合”。
值得注意的是，鲍罗廷在与张继、谢持谈话之后不久，其态度又有所软化。他担心让国民党左派去打击国民党右派，会导致国民党“灭亡”。7月15日，他召集中共广东区委举行会议，就中国南方政治局势和中共在国民党中的工作问题作了报告。在报告中，鲍罗廷改变了20天前与张继、谢持谈话时所断言的“国民党已死，国民党已不成党”的看法，认为国民党还没有完全放弃一大所通过的行动纲领，因此共产党人不应该退出国民党。在鲍罗廷的授意下，中共广东区委通过了一项反对中共中央方针的决议，指出“在准备可能退出国民党的问题上，我党实际上走上了一条不正确的道路”。7月18日，鲍罗廷在致瞿秋白的信中，再次强调“我们的同志现在对可能退出国民党的问题考虑太多，因此很少从事在右派和左派之间加楔子的工作”。
对于国共之间的纠纷，孙中山通常扮演居中调停的角色。孙中山自信对国共两党都能慑服。他曾申言：“共产党能守吾党范围，吾默化之；不能，吾自有处理之法。”孙中山也清楚，自共产党人加入国民党后，明显推进了国民党的组织发展；年轻、激进的共产党人所表现出来的革命朝气和锐气，与那些保守的、暮气沉沉的老国民党员形成鲜明对比。他不能容忍国民党老党员们反对“容共”政策，也不能放任各地党员之间日趋激烈的纠纷，但另一方面，他又能体谅和理解老党员们的举动，不怀疑他们对自己和对党的忠诚，而且老党员们的某些做法，也未尝不是对年轻气盛的共产党人之偏激言行的一种制衡。孙中山甚至有意利用张继等人的弹劾案将共产党人适度抑制。对孙中山来说，无论是共产党年轻人，还是国民党老同志，都必须服从他的党魁权威。为此，孙中山采取了两个举动：一是设立中央政治委员会，以抑制老党员；一是设立国际联络委员会，以抑制共产党人。
中央政治委员会于7月11日宣布成立，孙中山自任主席，指派胡汉民、汪精卫、廖仲恺、谭平山（后由瞿秋白代）、伍朝枢、邵元冲为委员，聘鲍罗廷为高等顾问。从法理上讲，国民党全国代表大会和中央执行委员会是党的最高权力机构，设立中央政治委员会在国民党党章上没有法理依据。孙中山的意图，显然是想通过中央政治委员会加强其个人集权，倚靠少数拥护其联俄容共政策的干部，摆脱中央执监委员会内一批保守落伍的老同志的掣肘，将后者排除在决策圈之外。张继等老同志听说设立中央政治委员会是鲍罗廷的建议，深感不安。因为鲍罗廷不仅是国民党的“组织教练员”，而且是中央政治委员会的“高等顾问”，有了这两重身份，鲍罗廷更可名正言顺地直接参与国民党中央的最高决策。张继曾极力反对孙中山聘鲍罗廷为政治委员会高等顾问，但未能如愿。
据陈独秀说，设立国际联络委员会，也是鲍罗廷的建议。但据鲍罗廷给莫斯科的报告，设立国际联络委员会是孙中山自己的动议。鲍罗廷分析，孙中山对于监察委员弹劾共产党案，实际上是站在中派的立场。孙中山希望既能控制民众，又能安抚帝国主义者。为此他们既需要共产党员，又需要右派，只是要共产党员服从自己的领导。孙中山声称：为什么共产党员要保守自己的秘密？如果这些秘密确实有利于国民党，不妨把它们公布于众，这样反对者就没有任何攻击共产党的理由了。孙中山怀疑中共企图通过垄断与共产国际的联系来垄断中国革命。为此，他建议成立一个直属国民党中央政治委员会的国际联络委员会，共产国际的所有指示都透过该委员会来传递。这样一来，国民党就能知道共产国际和中国共产党对自己的态度，并可切断共产国际与中共的直接联系。
为了纾解孙中山等人的疑虑，鲍罗廷同意国民党与共产国际建立直接联络的办法来解决对中共的不信任问题。8月13日，国民党中央政治委员会举行第5次会议。是日出席会议的有胡汉民、廖仲恺、瞿秋白、伍朝枢等人。鲍罗廷以顾问身份列席。会议决议由共产国际和国、共两党各举代表一人设立联络委员会，共同商议解决纠纷。
8月15日，国民党一届二中全会开幕。19日开始讨论弹劾共产党案，34件相关提案一并讨论。与会中委（包括中执委和中监委）20人，其中中共党员占五分之一。张继首先就监察委员弹劾书的旨趣及其个人意见作了一个冗长的说明，随即指责共产党人在国民党内作“党团”活动为不守信义，声称中共要对两党党员间的纠纷负责，认为中共“跨党徒滋纷扰”，国共两党“以分立为要”。张继最后还强调“革命党人应有自尊精神，以俄为挚友则可，以俄为宗旨则不可”。
对于张继的主张，覃振表示支持，认为“非速谋救济方法，恐纠纷愈形扩大”。覃振还提出两个解决办法：一是国民党员不得任意加入其他政党，凡共产党员加入国民党者，应专心从事国民党的工作，不得援引国民党党员重新加入共产党及为共产党征求党员；二是在中央党部加设国际宣传委员会，将三民主义贡献于国际，国际主张亦得以输入于中国。
瞿秋白代表中共对张继的指责和主张进行了辩驳，指出张继所建议的“分立”，实际意味着开除共产党员，而这只有在国民党改变其政治路线、不再进行反帝斗争、不再支持劳动大众的革命运动时才会发生。瞿申言：“所谓党团作用之嫌疑，实为惹起此次纠纷之端。实则既准跨党，便不能无党团之嫌疑。国民党外既然有一共产党存在，则国民党内便不能使共产派无一致之行动。况既谓之派，思想言论必有相类之处，既有党外之党，则其一致行动更无可疑。”
19日的讨论未有结果。20日继续开会，仍未获任何结论。是日，国民党中央政治委员会召集第6次会议，亦对此问题加以讨论，拟定出两个草案：一是《国民党内共产党派问题》，一是《中国国民党与世界革命联络问题》。21日，中央全会继续开会讨论共产派问题。汪精卫将政治委员会拟定的两个草案提交全会，并对两草案作了一个说明。汪称：“综核现在党内纠纷情形，约有三派：（甲）认共产派合作为有害；（乙）认共产派合作为有益；（丙）认共产派跨党无害，而有秘密党团作用则有害，若能使这个秘密公开，则党团作用自可消除。准此三点观察，症结所在甚属明了……再有须注意者，共产党与共产党员不同，共产党员为共产党守秘密是当然的，只有本党直接与第三国际从联络方面来协商，庶彼此不致误会，无所容其秘密矣。”会议主席胡汉民接着发言说：“这次党内纠纷主要原因，即在发现团刊之后，情感愈形险恶。但细察团刊内容，用语不当处固多，而内容确无其他恶意，不能即认为是一个有阴谋的党团。现在唯一的解决方法，比较的照政治委员会草案甚为适当。”汪精卫还宣读了监察委员李石曾的来函。李函称：“弟非国际共产党，亦非参与两党合作之人，但两党既合作如前，万不宜分裂于后。”讨论至此，主席胡汉民遂以政治委员会拟定的两草案提付表决，获得一致通过。草案一方面同意国民党内的共产党员对于与中共的关系，及其与共产国际的关系，仍“有守秘密之必要”；“中国国民党对于加入本党之共产主义者，只问其行动是否合于国民党主义政纲，而不问其他；至于本党之外存在之中国共产党，作为非共产主义政党之国民党，对其存在及其党员之行动，殊无监督之必要”；另一方面又决定在国民党中央政治委员会内设立国际联络委员会，负责与第三国际“协商中国共产党之活动与中国国民党有关系者之联络方法”。
在反对“容共”政策的国民党人看来，成立国际联络委员会实际上毫无意义。他们既不相信共产党，亦不相信苏俄和共产国际，自然不赞成通过加强与共产国际联络的办法来解决两党纠纷。故他们对会议的结果深表失望。实际上，这一结果亦在他们的意料之中。尚在会议召开之前，他们即对通过召开中央全会讨论解决弹劾共产党案表示不信任。因为“中央执行委员中，颇多共产党员及倾向该党之人，以之解决此案，万无正当办法”。
另一方面，中共中央对会议结果也深表不满。会议期间，远在上海的中共中央获悉将成立国际联络委员会的消息后，立即致信广州的鲍罗廷和瞿秋白：（1）禁止在国民党会议上辩论任何有关共产党的问题，禁止瞿秋白以党的名义在国民党的会议上发言；（2）中共中央拒绝承认国民党中政会下属的国际联络委员会；（3）责成中共同志在国民党全会上对反革命分子采取进攻态势，从防御转入进攻的时机已经到来。但中共中央8月27日从上海发出的信，传递到广州鲍、瞿之手时，国民党一届二中全会已经闭幕（9月1日闭幕）。陈独秀一气之下，将瞿秋白召回，斥责其“擅称代表”。9月7日，陈独秀在写给维经斯基的信中抱怨说：国民党这次会议给我们一个很大的打击，孙中山在口头上保持中立，实际上是利用右派的压力和反共宣传来压制我们，目的在于把中国共产党置于国民党的领导之下。陈独秀认为鲍罗廷上了孙中山等人的圈套。他请维经斯基转告共产国际：“像我们这样年轻的党，很难把工作做好。我们始终需要共产国际的好的建议和指示。请建议共产国际提醒鲍罗廷同志，同孙中山打交道必须十分谨慎，否则他还会上圈套，还要提醒他始终要同我们党进行协商。”
在陈独秀看来，国际联络委员会隶属于国民党中央政治委员会，并且拥有解决两党问题的全权，等于承认国民党有权干涉共产党的活动，故不能接受。但鲍罗廷认为，这种做法只是“哄骗右派之一种方法，事实上该项工作，殊难实现”，甚至也不是孙中山等中派所期望的一个经常从莫斯科得到指示并凌驾于两党之上的组织，其任务只限于弄清楚共产国际和中共对国民党的态度。据鲍罗廷会后的报告，当决议案一通过，孙中山等中派即感到陷入了自欺欺人的境地。孙中山在会议闭幕时问与会者们说：“你们能否确信，在全会通过决议后，同共产党员就不会再有摩擦和争论了呢？”李烈钧和程潜回答说：“如果从这时起全体同志同心同德地积极地进行国民革命工作，我们认为不会再有摩擦。”张继回答说：“这要看今后的事实。”没想到孙中山自己实话实说：“我认为这种冲突不是这么容易消除的。”
据鲍罗廷记载，在全会闭幕时，孙中山突然从中派的立场向左转，发表了一番措词严厉的讲话，申言两党党员之间的冲突，问题不在于共产党员有错误行为或言论，而在于“那些反对共产党员的人根本不了解我们自己的主义”，再次详细解释民生主义与共产主义在原则上不存在任何差别，差别只在于实现目的的方法，强调国民党党员应绝对服从自己的领袖，否则“我将抛弃整个国民党，自己去加入共产党”。为了警示那些不听劝说，坚持分共反共的党员，孙中山当场宣布以党的主席的名义开除冯自由出党。据鲍罗廷分析，孙中山之所以由中派立场急速左转，乃因为会议召开之际，广州商团正酝酿叛乱，已呈剑拔弩张之势。孙中山及国民党中央穷于应付。大会期间，广州的局势非常紧张。在商团及英国炮火的威胁下，国民党政府不得不依靠工人群众，更不能引发两党分裂。
会议结果既令中共中央不满，又未遂国民党右派的意愿，孙中山自己也感到陷入了自欺欺人的境地。全会在沉闷的气氛中宣告闭幕。轰动一时的弹劾共产党案，至此告一段落。但两党党员之间的纠纷与冲突不仅没有了结，相反呈愈演愈烈之势。