后来陈独秀在李大钊等友人的帮助下，潜离北京。陈独秀于1920年初到了上海，继续进行革命活动，并将《新青年》带到上海自己的寓所继续办下去，发挥反帝反封建的爱国民主斗争的巨大作用。此时的陈独秀总结了五四运动的经验，社会变革运动仅仅靠少数先进的知识分子和没有完全觉悟起来的广大群众来革命是不行的。必须要发动广大的劳动群众起来进行社会革命。

1920年上半年，陈独秀开始秘密组织上海的共产主义小组。在此前，陈独秀极其重视共产党组织的基础即中国劳工阶级的社会生存状况和组织架构，并将其比较详细的资料登载于《新青年》第七卷第六号作为五一劳动节纪念号发表。该号的《新青年》上刊载了李大钊的《“五一”运动史》，陈独秀的《劳动者的觉悟》，俄国、美国、英国、法国、日本等外国的劳动组织、状况、法律、工会方面的介绍文章；还有国内的上海、南京、北京、长沙、无锡、芜湖、唐山、天津、江苏、山西、皖豫鄂浙及香港等地的工人、劳动者的工作生活状况……宣传工人阶级、反映劳动人民的现实状况，为劳工兄弟，鼓与呼！李次山就是在陈独秀的授意下，广泛搜集了上海工人、劳动者的现实状况写成《上海劳动状况》7万余言，发表在《新青年》的《五一劳动节纪念号》上，该号400页，李的文章就占了83页，并配有照片。李的调查报告详细地介绍了上海劳动者的工作、生活状况，该文章的分量很重，李还参与文章的编辑，对《新青年》贡献不小，对中国共产党上海发起组织的创立也产生了正能量。同样，高语罕也是受陈独秀的委托，写了芜湖方面的劳工状况。由此可见，李次山与陈独秀革命友谊深厚之一斑。

1920年8月16日，陈独秀与老友潘赞化、常恒芳、光明甫、李次山、管鹏、孙希文、夏道沛、汪建刚、卢光诏、谢家鸿、张鼎文等15人发起成立“旅沪皖事改进会”，以作为早先成立的“北京皖事改进会”的援应。主旨是废督裁兵、皖人自治、驱逐“公益维持会”，整顿教育等反对安徽军阀的爱国民主斗争。9月16日，北洋军阀政府以安徽都督倪嗣冲有病为由，免除倪的职务。继而派张文生暂署安徽督军。10月3日，陈独秀、李次山等人以“旅沪皖事改进会”名义邀约安徽旅沪各团体，前往霞飞路宝康里普益西餐厅（淮海中路315弄一带，今已拆），开联席会议。陈独秀、李次山等安徽旅沪各团体发表演讲，大家慷慨陈词、会议最后决定发表宣言，联络旅京、津、宁等地同乡会皖人，齐心协力地与安徽省内各界驱逐张文生到皖就任，并议决今后无论何人督皖，一律拒绝。李次山还以联合通讯社发表文章刊载于10月19日的《民国日报》上，文章是以旅沪皖事改进会领衔，由安徽救国代表团、安徽旅沪同乡会、安徽驻沪劳工总会、安徽旅沪学生同志会、安徽旅沪各界联合会等组织共同发表的《安徽旅沪各团体宣言》。宣言指出：“……安徽自倪嗣冲执政，受毒尤深。皖山淮水，惨无天日久矣。欧美平民政治，无不从自决与奋斗得来，吾人果不忍父母之邦沦为黑暗地狱，则先决问题，于吾皖利益关系重大，不能不一致奋争……主张：一、废督裁兵；二、实行自治；三、惩逐‘公益维持会’；四、整顿教育。……吾人谋卫自存，势不能不取自决和奋斗手段。倘遇到政治上阻碍，唯有全省同时罢税罢市罢课，达到目的为止。”嗣后，安徽旅沪各团体派人回皖，联络省内各界，具体落实宣言中的四项主张。

1920年8月，陈独秀等人发起成立中共上海组织。但陈独秀仍关注和指导安徽的反帝反封建军阀是斗争。不久陈独秀应时任广东省政府省长陈炯明之邀，去广州就任广东教育行政委员会委员长。在粤的陈独秀一直与李次山、常恒芳、潘赞化等人联系，指导旅沪皖事改进会等旅沪安徽各革命团体，继续废督裁兵、皖人治皖的斗争。是年底，时任安武军总参议兼凤阳关监督的倪道烺（倪嗣冲的侄子），在倪氏死党“公益维持会”的支持下，密谋安徽省长一职。此事引起安徽省内外各界民众的警惕和反对。1921年1月7日，李次山又以联合通讯社的稿子，以旅沪皖事改进会等旅沪安徽团体名义，发出通电，就倪道烺觊觎长皖阴谋及其斑斑劣迹，告知并呼吁京、津、沪、宁、汉同乡会，及安庆、芜湖、合肥等各革命团体起来，一致声讨封建军阀爪牙倪道烺。4月12日，在安徽各界民众反对倪道烺长皖的怒潮中，在广州的陈独秀委托在上海的李次山、潘赞化、常恒芳、谢家鸿等人，以旅沪皖事改进会的名义，再一次发出通电声讨倪道烺。电文指出：“查倪道烺黠悍成性，贪鄙无耻，其所以敢于妄行无忌者，乃不外因袭旧势，操纵一省军权财权，有所凭籍耳……为今之计，若不先将该氏军权财权夺除，则祸机潜伏，随时皆可爆发，固不仅营谋省长一事也。若竟听其跳梁跋扈，隐忍姑息，毋亦全省人民之大耻，尚乞同乡父老兄弟，奋发兴起，速谋罢黜倪道烺本兼各职，不达目的不止。万不容此余孽，再窃吾皖政柄。”主张将倪道烺本兼各职一律剥夺之。李次山与陈独秀等人的通电对倪道烺及其走狗觊觎安徽省长职务的阴谋予以迎头痛击。作为旅沪皖籍人士的李次山对安徽省内的反帝反封建爱国民主斗争都是予以积极支持、竭诚相助。

1921年10月4日 ，法租界当局在环龙路渔阳里2号的陈独秀寓所将陈独秀等人逮捕。李次山立即写好报道消息给《时事新报》，于6日发表：“联合通讯社云：《新青年》杂志主编，前任北京大学文科学长之陈独秀君，昨年以来，任广东省教育行政委员长，尔因身患胃病，请假来沪就医，星期二（4日）下午二时许，法巡捕房特派巡捕多人，赴环龙路2号陈君搜检……同时将陈君及夫人及拜访陈君之……五人，一并带入巡捕房”，而同天的《申报》也报道：“居住在法租界地方之陈独秀，尔用编辑共产主义、社会主义、工党主义、劳动主义、新青年等书籍，被特别机关以过激性质，于前日偕同两探员至该处，抄出是项书籍甚伙……”。很显然李次山发讯息是带有掩护性质的，目的是立即告知社会各界关注并营救之。与陈独秀同时被捕的杨明斋、包惠僧、柯庆施都是早期中共党员，他们都与李次山有交往。随后去陈独秀住宅访问的褚辅成、邵力子也是李次山的密友。1919年曾同李次山共同参与营救陈独秀在北京出狱的活动。这次陈独秀被捕的消息见报后，引起社会各界的极大关注和多方营救。在社会各界著名人士的呼吁、救助下，加上共产国际的代表与法租界当局谈判，并出钱帮助；在各方面的合力作用下，陈独秀捕后三天就保释出狱。法租界当局于26日以罚款结案了事。李次山在第二次营救陈独秀的活动中，起了自己在新闻界、法学界等方面的积极作用。

1922年8月9日，上海法租界当局又以陈独秀宣传布尔什维克主义的罪名，逮捕陈独秀入狱。李次山不怕戴上“赤化”的帽子，再次马上发布消息，并在旅沪安徽同乡会、上海各界团体间奔走呼号，开展李次山的第三次营救活动，并在营救活动中发挥了积极作用。

李次山在上海，还为皖人旅居上海的各进步团体提供法律服务，担任由著名皖人柏文蔚等组成的安徽旅沪同乡会、安徽驻沪劳工总会等在上海的安徽进步团体的法律顾问。这些团体在开展反帝反封建军阀的爱国民主斗争中，大多由李次山为其提供法律援助和保障。由于李次山为人正直、不畏权贵，仗义执言，能言善辩地办案，在上海律师界身望日盛，被大家推选为上海律师公会（该会旧址在今上海复兴中路301号，现为上海的银行博物馆）的会长。当时的上海律师公会为全国律师人才荟萃的之地，集聚着著名的律师和法学界元老，如董康、章士钊、沈钧儒、褚辅成、史良、唐蒙等众多著名律师，人数达1247人之多。在上海各团体中影响很大，也成为全国律师团体中的中坚力量。他们主持公正、不畏强暴。在某种意义上讲，李次山成为全国律师界的领袖人物，被誉为一代国士。

                    前排中间为李次山大律师

20世纪30年代，李次山还创办了旅沪安徽公学，聘请陈径开（时为中共上海闸北区委书记）担任教育长，中共皖籍党员高语罕、阿英、蒋光慈、胡允恭、王逸常等人在闸北的活动；得到李次山旅沪安徽公学帮助的有；安徽英山的青年学生如彭干臣（共产党员）等人到上海来，也大多受到李次山的资助。1923年底，当蔡晓舟和安庆进步学生方乐周、王步文、童长荣等人因反对曹锟贿选遭当局迫害而潜逃到上海时，也得到李次山的经济方面的帮助和政治上的掩护。特别是蔡晓舟创办的《黎明》周刊，在李次山的帮助下，得以在上海法租界福煦路爱仁里57号继续办下去，仍发挥了反帝反封建军阀的宣传作用，并为陈独秀等人代售“（马）客士派（陈）独秀们所办的《向导》周报，为宣传马克思主义起了积极作用。

1932年，日寇侵略上海的“一·二八”事件发生，李次山积极发起组织在沪各团体抗日救国会，全力进行反对日本侵略的斗争；作为国民党左派人士的李次山，在上海还积极反对蒋介石的“攘外必先安内”的政策，反对蒋介石政权的专制。为此，李次山被蒋势力逮捕入狱，后经多方营救出狱，但身心遭到摧残。爱国民主人士沈钧儒在《忘不了两个朋友》、《七君子事件》的文章中，记叙了他极为崇敬的李次山抗日反蒋的革命事迹，令人感动、可歌可泣……。

1936年，为抗日斗争而四处奔波的李次山身体每况愈下，到了3月病危了。临终前，李次山仍吟诵陆游的《示儿》诗，盼望着抗日战争的胜利消息，17日，李病逝。26日至30日，《申报》连续报导李次山的病逝消息，曰：“英山李次山先生，品端学粹，遐迩知名，早岁从事救国工作，近来闭户读书，著作甚富，不幸遽归道山，社会惜之。今有上海律师公会、安徽同乡会、安徽公学及先生之友好，为之筹备治丧，并发起追悼大会，以资表彰，激励来者。”

陈独秀与李次山是辛亥革命时的战友。李次山三次参加营救陈独秀出狱活动。四次在《新青年》上发表文章宣传民主科学；李次山又参加陈独秀等旅沪进步人士参与领导和配合安徽省内的各项反帝反封建军阀的爱国民主斗争；支持第一次国共合作，同情共产党人；是陈独秀革命生涯中挚友和同路人，是中国旧时法律界著名的大律师，被誉为“一代国士”。