陈独秀回到上海后，与马林的关系极为紧张。张国焘回忆，马林“很骄傲，很难说话”，“说起话来往往表现出他那议员型的雄辩家的天才，有时声色俱厉，目光逼人，他坚持自己主张的那股倔强劲儿，有时好像要与他的反对者决斗”，“我们在和马林的接触中，感到他总是以国际代表的身份居高临下，高人一筹”。马林在中共召开一大时，就与李汉俊、李达等人产生龃龉。陈独秀回到上海后，很快与马林产生矛盾，陈甚至不愿与马林晤面，还告诫党人，中国革命要靠中国人自己。
1921年10月，陈独秀被捕后，马林出资为其聘请律师，陈与马林的关系得到缓和。陈感谢马林的积极援救，表示愿意多听共产国际的意见。马林在充分领教了陈独秀的刚毅倔强之后，也放下了架子，说：“中国的事主要是中国党中央负责领导，我只和最高负责人保持联系，提供一些政策上的建议。”
李达与陈独秀也很快产生了矛盾。李达回忆，建党之初，陈独秀已“具有恶霸作风”，“每逢同志和他辩论的时候，他动辄拍桌子、打茶碗，发作起来”。李达无法接受国共合作，不愿加入国民党，而与陈独秀发生争论。陈大骂道：“你违反党的纪律，我有权开除你。”李达遂认为陈是“草寇式的英雄主义者，做我党的领袖，前途一定无望”。
包惠僧回忆：“陈独秀不讲假话，为人正直，喜怒形于色，爱说笑话，很诙谐，可是发起脾气来也不得了。他认为可以信任的人什么都好办，如果不信任就不理你，不怕得罪人，办事不迁就。”
共产国际代表马林认为中共应该尽快与国民党合作，他建议中国共产党人采取加入国民党的办法。陈不同意。在1922年8月20日召开的会议上，陈独秀、张国焘、李大钊、蔡和森等人都反对加入国民党。马林表示，加入国民党是共产国际的政策。陈这才表示：“我服从共产国际的指示。但是，我是有条件的服从。孙先生的国民党有一套封建式的加入方法，如打手模，宣誓服从他个人，我是不会接受这些封建方法的，只有孙先生用民主主义方法改造了国民党，我才同意中国共产党加入国民党，否则……即使是共产国际的命令，我也要反对。”之后，张继、林伯渠等介绍，孙中山亲自主盟，李大钊、陈独秀、张国焘、张太雷、蔡和森、夏曦等人加入了国民党，成为第一批加入国民党的共产党员。
张国焘回忆：中共三大后，“陈独秀先生的权力是增加，许多事往往不经过会议决定而取决于他个人。那时任中央组织工作的毛泽东，多半的时间不在中央。任宣传工作的蔡和森，只是埋头写作，不多过问政策方面的事。至于不管部的瞿秋白，除了在广州耽搁了一个长时期外，返沪后忙于上海大学的工作。陈独秀在中共内的‘家长’称号，也就是这时候传出来的”。
1926年1月上旬开始，陈独秀突然不来中央看文件了。因没有人知道他的住址，无从寻找。中央常委瞿秋白、彭述之、张国焘恐慌起来，大家猜想陈肯定被秘密处死了。张国焘还说：“老头子（指陈独秀）如果要做官，可以做很大的官，想不到今天落了这个下场。”说着，快要哭出来了。
2月21日至24日，中共中央在北京召开特别会议，讨论两个顶重要的问题：一是陈独秀已经月余与中央隔绝消息，二是关于北伐问题。会议刚开始，便接到陈独秀自上海发来的电报，说：“已经能扶病视事。”原来他得了伤寒病，住进了医院。
在北伐问题上，陈独秀刚开始赞成，后经维经斯基苦劝，表示反对。陈个人认为，北伐的时机并未成熟，而且北伐结果必然造成一个新军阀。陈独秀、彭述之、张国焘、瞿秋白四人讨论北伐问题时，陈、彭不赞成北伐，张、瞿主张北伐。两票对两票，结果陈拍了桌子，张才表示反对北伐。但由于共产国际支持北伐，所以陈最终还是决定参与北伐。
中山舰事件后，苏共援助国民党的一批武器刚好运抵广州。陈独秀让彭述之去找鲍罗廷要5000条枪，好武装广东农民，以防分裂。鲍罗廷一口拒绝：“武装农民不但不能去打陈炯明和北伐，而且要惹起国民党疑忌及农民反抗国民党。”甚至还说：“现在是共产党应当为国民党当苦力的时代。”
1927年4月4日，陈独秀与汪精卫联名发表《汪陈宣言》，宣言为陈所起草，汪签字后，周恩来拿回来让陈签。文件上汪的名字签在后面，前面留了许多空白，意思是让陈将名字签在前面的。但陈独秀还是把他的名字签在汪的名字后面。宣言发表后，陈独秀对郑超麟说：“大报上好久没有登载我的文字了！”
陈独秀希望通过与汪精卫合作，而达到抑制蒋介石的目的，这也是共产国际的意思。但农民运动中，一些农民押着唐生智母亲游街，农协还扣留了政府的粮米，汪精卫、唐生智等人质问陈独秀：“民众为何侮辱我家人？”陈独秀无言以对。
大革命失败后，中共中央在共产国际的指示下，停止了陈独秀等人的工作。鲍罗廷曾建议陈独秀等人赴莫斯科，与共产国际讨论中国革命问题，陈表示拒绝。他说：“我所受国际机会主义的训练已经受够了，以前因为接受国际意见，而做了许多错误。”
8月7日，中共中央在武汉召开紧急会议，有人主张邀陈独秀参加会议，遭到了共产国际代表罗明那兹的反对。此次会议选举了新的临时中央政治局，至此，陈独秀实际上被撤销了党的总书记之职。
大革命失败后，陈独秀痛苦地自我反省道：“自一九二七年中国遭受了悲惨的可耻的失败后，我固亲自负过重要责任，一时实感无以自处，故经过一年之久，我差不多完全在个人的反省期间。”
汪原放回忆，1927年夏天，陈独秀次子陈乔年来找他，说陈要见他。他随乔年来到了一条深巷里的一楼一底的房前，见门口摆着一张竹床，一个人面孔朝屋里，头靠着门，躺在床上，赤着膊，肩上披着一条粗夏布的大围巾，手里拿着把芭蕉扇。等他们两人走进屋里，躺在竹床上的人坐起身来说：“来了。”这时，汪才认出他是陈独秀。陈让汪安排他到上海去，9月上旬，陈独秀由黄文容、汪原放、陈啸青（亚东图书馆员工）陪同，乘船顺长江而下赴上海。四人包了一个官舱，陈独秀扮作病人，戴上风帽，睡在上铺，连吃饭也在舱里。船靠码头时，他们关起门来装作睡觉。
一路上陈独秀躺在上铺很少开口，有时喃喃自语，但也只有一句话：“中国革命应该由中国人自己来领导。”他这时虽然只有48岁，可他那副沉闷、执拗的神态，已像是一位垂暮之年的老人了。
陈独秀被免去中央局书记职务后，几次致信中共中央，提出建议。时任中共江苏省委组织部长的陈乔年，十分同情父亲的遭遇，也部分赞同他的观点。但他对父亲与党中央之间的矛盾很感为难。有一次，陈乔年劝告陈独秀不要再给党中央写信了，因为中央里有些人把他的意见“当作笑话到处宣传”。于是，陈独秀听了乔年的话，在较长一段时间里不再给中共中央写信。
八七会议后，陈独秀在中共中央机关刊物《布尔什维克》发表文章，署名“撒翁”。郑超麟说：“我猜想署名表示他撒手不再领导中国共产党之意。”