孙中山在南京听说袁世凯上任了，国务院也组织好了，于是向参议院正式辞职，并把生平的积蓄和所有的政见都宣布了出来，作为临别的心意。议员们安静地坐着不说话，只认真听着孙中山讲话。书记员把听到的全部记录了下来，大致为：
本大总统于中华民国正月一日，来南京受职，今日为四月一日，至贵院宣布解职，为期适三个月。此三月中，均为中华民国草创之时代。当中华民国成立以前，纯然为革命时代，中国何为发起革命？实以联合四万万人，推倒恶劣政府为宗旨。自革命初起，南北界限，尚未化除，不得已而有用兵之事。三月以来，南北统一，战事告终，造成完全无缺之中华民国，此皆全国国民，及全国军人之力所致。
在本总统受职之初，不料有如此之好结果，亦不料以极短之时期，能建立如此之大业。本总统于一个月前，已提出辞职书于贵院，当时因统一政府未成，故虽已辞职，仍执行总统事务。今国务总理唐绍仪，组织内阁已成立，本总统自当解职，今日特莅贵院宣布。
但趁此时间，本总统尚有数语，以陈述于贵院之前。中华民国成立之后，凡为中华民国国民，均有国民之天职。何谓天职？即促进世界的和平是也。此促进世界的和平，即为中华民国前途之目的。依此目的而行，即可以巩固中华民国之基础，盖中国人民，居世界人民四分之一，中国人民，若能为长足之进步，则多数共跻于文明，自不难结世界和平之局。况中国人种，以好和平著闻于世，于数千年前，已知和平为世界之真理。中华民国有此民习，登世界舞台之上，与各国交际，促进和平，即是中华民国国民之天职。本总统与全国国民，同此心理，务将人民之智识习俗，及一切事业，切实进行，力谋善果。本总统解职之后，即为中华民国之一国民，政府不过一极小之机关，其力量不过国民极小之一部分，大部分之力量，仍全在吾国民，本总统今日解职，并非功成身退，实欲以中华民国国民之地位，与四万万国民，协力造成中华民国之巩固基础，以冀世界之和平。望贵院与将来政府，勉励人民，同尽天职。从今而后，使中华民国，得为文明之进步，使世界舞台，得享和平之幸福，固不第一人之宏愿已也。
孙中山说完，大家都起立鼓掌。孙中山随即把临时大总统印交还参议院，参议院接了印，又派林议长做代表向孙中山表态：
中华建国四千余年，专制虐焰，炽于秦政，历朝接踵，燎原之势，极及末流，百度隳坏。虽拥有二亿里大陆，率有四百兆众庶，外患乘之，殆如摧枯拉朽，而不绝如缕者，仅气息之奄奄。中山先生，发宏愿救国，首建共和之纛，奔走呼号于专制淫威之下，濒于殆者屡矣，而毅然不稍辍，二十年如一日。武汉起义，未一月而响应者，三分天下有其二，固亡清无道所致，抑亦先生宣导鼓吹之力实多也。
当时民国尚未统一，国人急谋建设临时政府于南京，适先生归国，遂由各省代表，公举为临时大总统。受职才四十日，即以和平措置，使清帝退位，统一底定，迄未忍生灵涂炭，遽诉之于兵戎。虽柄国不满百日，而吾五大民族所受赐者，已靡有涯涘；固不独成功不居，其高尚纯洁之风，为斯世矜式已也。今当先生解临时大总统职任之日，本院代表全国，有不能已于言者。民国之成立也，先生实抚育之；民国之发扬光大也，尤赖先生牖启而振迅之。苟有利于民国者，无间在朝在野，其责任一也。
卢斯福解职总统后，周游演述，未尝一日不拳拳于阿美利加合众国，愿先生为卢斯福，国人馨香祝之矣。
孙中山鞠躬表示感谢后便起身告辞了。议员们再次投票表决，准备把临时政府搬到北京。袁世凯任命前陆军总长黄兴留在南京控制南方军队，又把唐绍仪召回北京。唐绍仪因为兼任交通部长事情繁多，于是向参议院提出让施肇基做交通部长，经过投票后，得到了多数人的同意。就这样，十个部长都已经确定好了，只有曾经担任上海军队的都督陈其美因为酷爱吃杨梅，只愿意一直待在南京。唐总理也不好勉强他，就与王宠惠等人回北京了。参议院的议员们也在四月二十九号一起到了北京。副总统黎元洪也辞去了大元帅的职务，由袁世凯改任为总参谋长。接着又把所有前清的总督、巡抚等职位全部改名为都督，一切就算是准备就绪了。
只是蒙古族和藏族问题还来不及处理，袁世凯派人送书信劝他们独立，拥护中央的领导。这时，英国和俄国想趁机把这两个地方收为囊中之物，活佛喇嘛又丝毫没有立场，全凭外邦人做主，袁世凯的一纸空文能让他们安分吗？不过袁世凯也只是不得已，需要做做表面功夫而已，暗地里却一直在运作。第一是裁兵，第二是借债。您想想，各省的革命军四处招兵，现在差不多已经有数百万的兵力了，而且中央政府已经成立，国内安定，还要这么多兵干什么？其实袁世凯是一直在防着南方的军队，他们早一天裁掉，袁世凯才能早一天安心，但是要裁兵就要解决钱的问题。所以袁世凯才会借外债。
南京临时政府已经借了不少债，但钱一到账后立马就用完了，用完后还嫌不够。唐绍仪去南京建立国会的时候，南京临时政府曾答应撤销临时政府，只是他们提出南京临时政府的所有欠款要由北京政府承担，南京有两三百万，上海有五十万，武昌也有一百五十万。这么大一笔钱，唐绍仪只好请示袁世凯，袁世凯二话没说就答应了下来。现在凑不到钱了，袁世凯只好四处向外国银行借钱，四国银行仗着有钱，就乘人之危做了大债主。
什么是四国银行团呢？原来清宣统二年间，清政府要改良币制，振兴东三省实业，需要借一千万英镑外债。于是英国的汇丰银行、法兰西银行、德华银行、美国资本团就签订合约，组成了四国银行。中途遭到日本和俄国的抗议，协议并没有达成，武昌起义又爆发，四国银行于是只交了四十万的预约款后就不了了之了。
民国统一后，袁世凯担任了临时大总统，他一早就知道做任何事都需要资金周转，特别是现在刚上台。这时四国银行派来大使说愿意资助中国，但要求以后四国银行具有“借款优先权”。袁世凯自然一口答应下来，还请求先预支四十万应急，其他的以后再议。银行把钱拿来以后，正好南方那边也要五六百万，没有办法，袁世凯只好再发电报找银行借了一千五百万。一借就是南方需要的两倍多，这袁世凯真是胡来！
银行倒也答应借这一千五百万，但他们开出条件说，要有担保人和监督人，还需要把支出的情况告诉他们。唐绍仪不同意这些条件，于是袁世凯又向比利时银行借了一百万英镑。比利时只是个小国家，但是看中了借钱的利息高，于是就跟俄国银行和英法银行一起借钱给中国，并要求中国付五厘的利息，还要以京张铁路的收益作为抵押。唐绍仪用这笔钱和北京给的钱还了南京、武昌和上海的欠款，剩下的带回了北京，但没过多久就用光了，还是要去找外人借。老是这样下去，国家还怎么维持？
这时，四国银行的大使发电报说：“唐总理擅自向其他银行借钱，这显然违背了袁总统答应的借款优先权，还请说明白这个问题！”袁世凯自知理亏，不得已想出了一个应急的办法——拜托美国大使跟其他三国调停。
美国大使也算有情有义，叫上唐总理一起去拜会了三国的大使。唐总理这个时候也顾不上面子了，平心静气地道歉说：“这次的确是南方急需要这笔钱，如果四国银行愿意借钱给我们，我们可以取消跟比利时银行的协议。只是当初没有跟你们说明情况，的确冒昧了，还请诸位原谅。”英、德、法三国大使听罢，圆瞪着眼睛，一副有意刁难唐总理的样子。
美国大使叽里咕噜说了一通情，三国大使的脸色这才有所缓和，但是又提出了三个要求：第一是另外定个时间向四国银行团道歉；第二是北京政府的财政预算要先让四国银行团过目；第三是不能向其他银行秘密借款。唐总理一一答应了，四国大使还提出要中国取消与比利时的合约，唐总理也一口答应下来，然后才欢喜地离开。
袁世凯坐在家里等着唐总理回来报告，听到开会时商量的情形，袁世凯犹豫地说：“还好还好，只是如果要取消跟比利时银行的约定，恐怕有些为难呢！”唐总理说：“比利时银行总不如四国银行团声势大，我把钱还给比利时银行，跟他们的合约应该可以取消。”袁世凯点点头，说：“这件事你去办妥就行了。”
唐总理从袁世凯家出来后，立马发电报给比利时银行取消合约，比利时银行不仅不答应，还冷嘲热讽地骂了唐总理一顿。唐总理出尔反尔，又怎么会不挨骂呢！唐绍仪没有办法，只能再次请美国大使出面调解，美国大使原本就跟英、德、俄三国大使一个鼻孔出气，只不过性情平和肯在中间转圜罢了，也不算帮忙。这是一种外交手段。
比利时银行的代表深知斗不过四国，而且他们还想要收买美国大使的人心，于是就顺水推舟取消了借款合约。接着唐总理又跟银行团开会，要他们贷给中华民国三千五百万，从六月到十月每月借一千万。
银行团的代表们赶到唐总理的家里面谈，开口就问借巨款的原因。唐总理随口回答说：“还能怎么用，当然是给军队发军饷呀！”代表们又问实际上需要多少钱，唐总理说：“必须要三千万。”代表们不相信，又问道：“为什么要这么多？”唐总理说：“军队众多，需要的钱本来就多，如果要裁兵，三千万都少了，如果以后随时裁兵，再多加个三五百万也就差不多了。”这几句话完全是敷衍的口吻，银行团怀疑唐绍仪忽增忽减暗藏猫腻，于是笑着问：“总理之前曾借过比利时银行一百万英镑，这笔钱用在什么地方了？”唐绍仪把用在南京、上海和汉口的情况一一作了说明，并说除了用在南方的开支外，剩下的都用在北京了。
代表们说：“贵国借钱这样没有计划，狮子大开口，我们银行团就算钱再多也不敢随便借呀！而且您要知道，借钱就要还钱，贵国以后可有钱还吗？”唐总理被反问得哑口无言，接着德华银行的代表站起身，说：“钱的去向这么模糊，如果不另外商量出个方案，以后还怎么借钱给你们？”唐总理赶紧站起来问：“要什么方案，还请您明说。”德华银行代表冷笑地说：“要想借钱的话，不管会不会裁兵，钱的用途都必须由我国监督，不然就算无效。”唐绍仪犹豫了一会儿，挤出一句：“这恐怕不方便呢！”这下好了，各代表都站起身说：“既然总理说不方便，那我们银行团也不一定非借钱给你们！”
说完，代表们转身就要走，唐总理赶紧挽留说：“还请给点时间再商量商量啊。”代表们一边退一边说：“以后借钱的事情不用跟我们商量，直接找我们大使就行了。”说完，朝唐绍仪鞠了一躬后就扬长而去了。唐总理失望极了，只好转告给袁世凯。袁世凯默默地筹划了一番，又想出一个计策：银行团既然这么厉害，我怎么不向其他银行先借着呢？呵！居然故伎重施！计划已定，袁世凯便暗地里派人四处打探。
正在这时，日本正金银行、俄国道胜银行居然站出来说话了：“四国银行团既然已经答应借钱给中国，就应该迁就一点，怎么能先提监督用途这么无理的要求呢，这未免太不近人情了。”这话一出来，英国和美国的大使不免有些恐慌，暗想日、俄两国从中作梗，定是不怀好意，看来这借钱一事，外人都各有想法了。于是立即通知北京临时政府说愿意再商量商量。
袁世凯心中窃喜，但自己不方便出面，所以又派了唐绍仪出来跟银行团商量。唐总理有了前面的教训，实在不想再出面，可是当下急需用钱，也只好硬着头皮出门。正在这时候，忽然来了个替身，于是唐绍仪把这烫手芋头交给了他。
