有人给黎元洪进言，何不把国会议员们召唤到天津，议员人数超过法定人数，在天津组织政府就合法了。
黎元洪觉得有道理，于是向银行抵借十二万元，用自己的私款在天津成立“国会议员招待所”。只是，没等议员达到半数，这笔钱很快就用光。黎元洪以“旅费”的名义，给每个议员五百元。有些议员就是为这五百元来的。见黎元洪没多大油水，从天津的又返回北京了。
即便是这样，黎元洪仍我行我素，在天津照样以总统身份，经常有公函送给外交使团的领袖葡萄牙公使符礼德。符礼德开始还把他的公函当回事，随时照译照转。后来见黎的文件越来越多，符礼德不耐烦了，便在外交使团的联席会议上声明，黎的文件没有照转必要，以后都不转发了。
在天津的直隶省长王承斌，本就是曹锟的近臣，黎元洪在天津处处受困于他。
正当黎在天津四处碰壁，一筹莫展之际，六月十七日，收到好友章太炎的信，力劝他到上海另图发展。
信中有言：“公果愿成事者，当与段氏（段祺瑞）切实携手，外借奉天之力，远借西南之声，持之数旬，必当有济。……
黎元洪听了章的话，发布了一道命令：任命段琪瑞为讨逆军总司令兼第一路司令，张作霖为第二路司令，卢永祥为第三路司令，并以自己的同乡亲信陈宦为参谋长。
段祺瑞对黎元洪仍耿耿于怀，见到命令，冷言冷语地说：“讨逆我不会自己讨，要你姓黎的给我命令？真是笑话。”
知道了段的态度后，黎不死心，又改任张作霖为讨逆军总司令，阎锡山和卢永祥为副司令。但是张、阎、卢都表现得很冷淡。
再一次受挫后，黎元洪又收到了章太炎六月十七日的信，仍然劝他南下。
信云：“密书已达，数日筹商，仍请我公速成到沪。一、国会议员誓如魂魄，公譬如躯干，有魂魄无躯干，失所凭依，终于散尽。此不能不来者一。二、三百议员到沪，未能过半，非公自来不可。不然，议决之案，无人执行，彼亦无味，非仍被贼人诱去，必则别图建设以招紊乱。此不能不来者二。三、外人仍认公为总统，则沪可截留关余、盐余。即不能截留，亦可使之掯住不发，以绝贼人命脉。公若不来，他人无此力量也，此不能不来者三。四、各派对公，容有同异，然商人最信公，不来则欢忱不接。此不能不来者四。以上四因，皆最切要言，来时有元首之资格，而不必具元首之威仪则更善。”
一九二三年八月八日，在沪国会议员刘楚湘等二百八十人，发表了欢迎黎元洪南下的通电。
内言：“公宜早日南下，身先同人，成立政府，号召中外，使外而友邦，内而国人，知正统之所归，正义之所在，即使各方面意见未趋于一致，而公亦当纡尊降贵，与之周旋，只要为国伸正义，不妨己身受劳怨。”
黎元洪此前已经派亲信金永炎去了次上海，和各路“神仙”有过接触。金回来说：“卢（卢永祥）未切实欢迎，孙派意见未融”，因此，是否南下，黎还在犹豫。
这时，段祺瑞派亲信李思浩等人也来极力动员黎南下，表示段会尽力给予支持。看来段也想借黎元洪的力，报直系的一箭之仇。
黎元洪终于下决心南下了。
为了安全，一九二三年九月八日，经友人安排，黎元洪秘密搭乘日轮长府丸，偕李根源、陈宦、庄景珂和两名日本医生二人踏上行程。于九月十一日抵沪，下榻法租界杜美路二十六号。
当晚即在寓邸邀请唐绍仪、章太炎、李根源、褚辅成、章士钊、陈宦、饶汉祥、郑万瞻、焦易堂等进行一番密商。
随后发出一道通电：“元洪忝受国民付托，待罪公仆，德薄能鲜，致有六月十三日之祸。惟念纪纲不可不立，责任不可不尽，业于九月十一日到沪，勉从国人之后，力图靖献，谨此奉闻。”
又有致广州孙电云：“（上半段与前电同）……我公昔在清季，与元洪共开草昧，休戚与共，惟望共伸正义，解决时局，海天南望，伫候教言。”
九月十二日，黎元洪在寓所招待新闻记者，发表书面谈话如下：
“余在国会未曾有正当解释任期之前，总统地位，当然存在。余在京因不能自由行使职权而移津，然天津依然为暴力所包围，乃不得不转而至沪。上海为舆论中心，政治策源地，故余来深欲征取各方意旨，并将中心所怀，报告于众，使各方公判，而求妥善解决之道。连年兵祸，国民已创深痛钜，余素主和平，寻求国是之解决，雅不欲诉诸武力。余对于总统之位，毫无恋栈之意，亦无作下届总统之野心，惟进退授受，当遵法定手续。
“今法纪荡然，长此混乱，国何以立？余故不惮跋涉而来沪，求各派人士之合作，以维法律而整纲纪。故余南来之宗旨，一言以蔽之曰：维持法律，整饬纪纲而已。至现在北京之摄阁，毫无法律根据，今合法内阁之总理为唐绍仪，仍有施行政事之权力，沪上之国会，为主张正义而来，彼开会时，余当出席报告，请其维持法纪而固国本。余之行动一遵民意，而以法律为根据，如有能整饬纪纲，维持法律者，余即当按法定手续以政权相授，决不迟疑恋栈也。”
中外各报对黎元洪的南下和他的谈话，反应并不热烈，都没有成为一件大新闻。这和黎及其身边人的期望大打折扣。
黎元洪被直系捧上总统位子，并没有得到奉系、皖系以及国民党和西南方面的同意，除卢永祥外，其他人当时虽然没有明确态度，实际上都是反对黎上台的。特别是南边，因黎的上位而恢复法统，使其护法失去合法性，可见所谓护法也多半是竖起的一面旗帜而已。
所以，黎元洪此番到沪来寻求各方支持，大家反映冷淡应该也是情理之中的事。
太炎先生看来也是把形势估计得太过乐观。
而黎这次到上海，好像也真不是时候，因为此间正盛传江苏的齐燮元将与浙江的卢永祥要发生军事冲突。
江浙两省对于战争的威胁极为敏感，两省的士绅如张一麐、张謇等发起《江浙和平公约》，分别请苏浙军民当局和浙沪护军使签字，以资信守。
黎到上海时，这个和平公约刚好签署，其中规定：“对于两省境内保持和平，凡足以引起军事行动之政治运动，双方须避免之。”
江浙人士认为黎元洪在上海组织政府，将使和平局势受到破坏，张謇曾找到黎，力言江浙和平关系重大，希望不要轻举妄动。言外之意是反对黎在上海活动。
九月十三日，黎在杜美路寓所召集各地应邀而来的代表，举行全国性的会议。参加者有广东代表汪兆铭、浙江代表邓汉祥、奉天代表杨毓珣、云南代表陈维庚、贵州代表李雁宾、四川代表费行简、赵铁桥、湖南代表钟才宏等人，段祺瑞的代表也有参加。
黎元洪是想协商筹组一个全国性的政府。
黎元洪以主席身份首先致词，他说：“这次南下完全是自动，因为曹锟用金钱和武力攫取总统，眼看就要成功，如果大家坐视其上台，必定惹起各省兵争，破坏和平，流祸无已。故不若用拆台方法，令其不能做总统，即可保全和平；今拆台只得一半成功，故率然南下，希望和各方通力合作，贯彻拆台宗旨。盼各方支持，拆台既竣，建设之事，则非本人所能胜任，惟望天下仁人志士共起担负。”
黎的说完后，见会场无人应声。于是黎又继续说：“目前拆曹锟大选之台，即须我方先能搭台，而搭台最要在组织政府，俾能号召一切。现在已商请唐少川担任内阁责任，请各省赞成。”
各省代表互相看了看，最后由汪兆铭起立致答：“各省对公个人皆极仰佩，去年直系拥公上台，各省所以不一致赞成者，因法律上所见不同，且灼知直系毫无诚意，故今年六月十三日之事，早在意料之中，今公个人跋涉南来，深感公之为国宣劳。至于组织政府一事，事关重大，各代表事前毫未知情，也未有所准备，自当慎重考虑，电告本省，请示可否？然后奉复。”
汪的话讲完，各省代表一致表示同意，于是黎这次组织政府的谈话会以不了了之结束。
接下来的一件事，更让黎元洪难堪。
就在黎在各省代表那里碰了软钉子的当天，南下的国会议员在湖北会馆召开谈话会。黎元洪以大总统身份将已准备好的两道命令函达国会，请求同意：
一、准李根源辞署阁职；
二、任命唐绍仪为国务总理。
黎同时通知议员们，准备前往报告一切。
在黎看来，南下议员集会不能没有总统和内阁，否则议员集会失去了意义，这比和各省代表谈话要有利得多，他相信议员们一定欢迎他。
但事情的发展大出黎的预料，议员在谈话会中，国民党籍议员张继竟声色俱厉地指责黎元洪，认为他误国，依附军阀，不顾国家民族大义，只求一己利害。他郑重宣布，国会中如果再有文电称黎元洪为大总统，他本人坚决不予承认。现在中华民国已经没有大总统了。国会中原来设有的大总统席位，亦应立即撤去云云。
张继的挡驾，使得国会空气为之一变，议员褚辅成、黄云鹏、吴渊、谷思慎等，见情势不佳，深怕黎元洪来了之后受到难堪，于是赶快打了电话去通知黎，请他不要来出席国会。