徐树铮字又铮、幼铮，号铁珊，江苏萧县人。少有神童之誉，年廿二间关至山东投靠袁世凯，踵辕上书，值袁丧居，命道员朱钟琪代见，未得结果，住在济南的高升店，旅居无聊，在厅堂写楹联，时值严冬，徐仅着夹袍，可是并没有寒酸气。这天段祺瑞刚好到高升店访友，见徐气宇不凡，乃探问其姓名，徐告以投友不遇，盘缠用罄，正在等候家款。段问其愿就事否？徐答以：“值得就则可就”。段乃约徐长谈，聘徐担任文牍工作，从此毕生追随段祺瑞。袁世凯任北洋大臣，段督办陆军各学校，徐虽担任文员职务，但时与兵士习跑步，同操作，后赴日本入士官学校，回国后仍在段左右，领袖群僚，不仅是段的灵魂，简直是段的化身。段一生刚愎，有人说段是刚愎“他”用，这他，就是指徐树铮。
北洋时代有大徐小徐，大段小段，所谓大徐是徐世昌，小徐就指徐树铮，大段是段祺瑞，小段是指段芝贵。
小徐如何影响段祺瑞，如何操纵运用，可自一则笔记中看出，这是段的另一智囊曾毓隽所叙袁世凯称帝时和段祺瑞闹僵的一幕，曾毓隽因为是段身边所亲信的人物，他的描叙自然很近事实：
（曾毓隽言：）项城蓄谋帝制之始，合肥微窥其隐，即召余（曾自称）及又铮诸人秘商曰：“项城帝制自为之迹，已渐显露。我当年曾采取共和之电，如今又拥项城登基，国人其谓我何？且恐二十四史中，亦再找不出此等人物！所以论公，我宁死亦不参与，论私，我从此只有退休，决不多发一言”。
后来帝制形成，合肥养病京郊。一夕，项城忽召余曰：“松坡已离京转滇，芝泉亦知之乎？为我转告芝泉，此时忍坐视我满头白发，遭人摧毁欺负耶？”继又忿然曰：“没有我，恐怕也没有你们！我今年逾五十，位极元首，个人尚有何求？然不能不为此一团体打算，我们不能让人家打到大门口来！即有错误，第一个了解我，又能谅解我的，应该是芝泉。今乃刚刚相反，芝泉竟是第一个不了解我，不谅解我的。实令人不解！汝可转告他”。
继又曰：“最好芝泉能亲自来见我”。于是提笔草就一函。交余递段。段阅后决定仍不往见，嘱余拟稿，加以矫正，交余面呈项城。于是我又往谒项城，作第二次之密谈。袁拆函一瞥，随命余曰：“汝且退，明日此时，可再来此”。
余谒段报告见袁经过，段曰：“汝明日复谒项城，不必多费一词，只听其发付可也。生死且不计，何有于得失！”
余归，竟夕不能成寐，想找又铮诸人一商，则又铮实为与合肥同一鼻孔出气之人。且合肥此种坚决态度，十之七八受又铮影响为多。乃作罢。
余谒合肥，请其在可能范围内予以便宜行事。段郑重声明曰：“除不拥护项城做皇帝，及暂不谒见外，其他均可便宜行事。”又承相告曰：“昨晚又铮来称：项城左右，已亟谋不利于我，并及又铮。闻他们只待上面点头，便采取行动。我料此乃想当然事，但亦不可不防范之。”
我离合肥处后，颇有歧路徘徊之感。继思又铮毕竟权奇倜傥人也，不如试一探询其本意，然后请其相助。因迳往某俱乐部见又铮，坦白告以一切经过。又铮笑曰：“阁下诚坦白，但尚隐有一事，即项城大骂徐树铮该死是也。”余亦笑曰：“事诚有之，何必赘述，以撄君之怒。”我乃更告以项城与合肥各执一端，无法向项城复命之苦，请智多星为我设想。又铮先说笑……见余若有不豫色然者，始正经为计曰：“阁下明日仍先谒项城，告以合肥拟俟稍愈，即亲谒面呈密要。项城能得与合肥面谈，必喜且不胜，然后吾人徐图补救。兹事体大，不可造次。”余觉又铮所言极是，次日再谒项城。……
此次谒项城为第三度。见袁后即告曰：“段以兹事体大，决俟病体稍愈，躬亲请谒，而呈一切。”又故意加重语气，重说曰：“亲来密商，比较方便。觉其病状已好转，大约最短期内即可应命前来。”项城听到最短期内可以会晤，立刻变为喜悦。我正想乘机告退，但项城准备发言了。他一发问，问题便多。我暗中在咎又铮：凡所作计，总带几分冒险性质。正在冥想，见项城检交冯华甫亲笔函曰，汝试一阅，必觉其真有进步。我读后，记函中警句云：“京以外事，倘有所命，决不敢辞。惟京内事，则极望菊人、芝泉诸兄能切实秉命而行，不要为其左右所误。……”此一语明明系指合肥之信任又铮，最中项城之忌。我不待项城发言，即批评该函云：“无论东海、河间、合肥，皆属国家柱石，似应同心协力，三位一体。……如相互猜忌，则恐祸起萧墙，非国家之福。”项城云：可为我将华甫此意，转告芝泉。旋又急曰：“且慢，又铮其人，亦小有才，如循正轨，可期远到。但傲岸自是，开罪于人特多。芝泉如爱之，不应反以害之。……亦可为我转加勉励，并可将去此函共阅。”
余自公府辞出后，即见合肥，告以已代为权允病愈后往谒面谈。并递上河间致项城手函。合肥看罢，即掷之于地曰：
“冯华甫本来是狗，现在看来，简直连狗不如！”
我说既已权允病愈往见，则不能称病到底，事先应有准备才好。合肥曰：“又铮来过，亦为此事担心，汝可找又铮共商。”
我找到又铮，出示冯函，又铮曰：“我们还是抓定自己的原则，即第一：不论直接间接，积极消极，均反对帝制到底。第二：欲项城中途取消称帝野心，据张季老相告，已完全失望。所以合肥还是始终称病不见为上。”我反驳曰：“不见固佳，但不能称病到底。”又铮思之有顷，忽拍案叫曰：“得矣，我可派人扬言于梁燕孙、杨皙子辈：‘只要合肥愿见项城，项城可答允合肥一切要求，所谓要求，包括人事调整’云云。彼辈一闻此言，恐被指名调整，必多方设法以缓项城与合肥之见面，则吾人可从容坐视其变。”
余每暗服徐之勇迈而兼有雅量。因一再相约曰：“一切如君所论，但请从速进行。”
果然，此后多日，项城不再召我，又铮之谋告成矣。
忽一夕梁燕孙过访……曰：“顷间项城相告，谓据足下转陈，合肥已允病愈往谒。果能如此，何事不可商量。第一，冯华甫即不敢再如目前之作壁上观，而将一切责任推诸合肥身上。第二，东南西南各省督使，对我方必立刻改变观念，而有所顾虑，以共寻求缓冲之道。则项城做不做皇帝，均得有时间从长计议。……”我答曰：“合肥已决定病愈往谒，但项城左右，恐非每个人都如阁下想法。……合肥个性，阁下所知，决不可供群小玩弄。”梁氏云：“足下之言是也，容将此意往陈项城，得其了解，再来就商。”
梁去后，余即往告又铮，徐曰：“有我徐某在，决不令此獠猖獗祸国也。”
我问曰：“君谓南皮项城，是半豪杰，作何解？”徐曰：“南皮一生，以骂人起家。项城一生，以骗人起家。非豪杰不敢以骂人，非豪杰不足以骗人。然真豪杰，则既不骂人，更不骗人。今南皮与项城一骂人，一骗人，吾故曰半豪杰也。豪杰而曰半者，其他一半，属屠沽故也。”徐氏述毕，关于梁燕孙与我晤谈之应付，又铮毅然曰：“我料梁氏旨在窥探吾人意向，暂时决不会怂恿项城召见阁下。因我所做工夫重点，即在投彼辈所好，可使项城一时更不图见合肥，请君高枕看我好谋。”我深信又铮之能，遂亦置之。
项城欲与合肥见面，终因又铮窥破项城左右意图，略施拖延小计。不久蔡松坡云南起义，项城亦势成骑虎，不能登其大宝。
某夕。又铮过访，谓项城又有请合肥复出相维之意，幸为其左右所阻。继又曰：“只要我们能消极到底，军事方面，久持必生变，虽倒河倾海，亦无能为力。”河海云者，指河间与东海也。又铮只坚持此一策略，以成合肥再造共和之局，合肥亦能动心忍性，以增益其所不能。
又铮最重视者，为项城将来如何收场，合肥又如何出而善后，我们为其左右者之如何预筹也。又铮之中心主张，为佛头上着不得一点粪。无论项城以何种名义授合肥，纵使实际上授以全部军权，亦不能接受。一接受，则头上着粪，永远难洗。反之，纵使空虚到委蛇伴食，予以间曹，也当拒绝。不拒绝，头上又着到粪了。故吾人不能轻易授人以口实。则项城之败，敌人不一定能收全功，而我们则操胜算之一半。后来事实演变，一如其所料。虽以东海之善于操纵，河间之亟思染指，而北洋军权，始终控制于合肥手上者，胥又铮此一坚决主张，为奠定其基。
当袁氏取消帝制，手令东海，请合肥同筹善后，一切请合肥处理，惟不能再用徐树铮。合肥一开此言，大怒曰：“事到如今，尚一点不放松。我宁不干，我又如何能干！”
曾氏又云：“大徐最怕小徐，但有时亦爱小徐，且想利用小徐，而小徐终其身，只接受其怕，不接受其爱，更谈不到利用。而合肥则不然，能使小徐终其身不见其爱，只见其信任。不见其怕，更不见其利用。信任矣，爱何加焉。利用矣，怕必随之。然则大徐之智出合肥下矣。”
黎元洪就职总统后，任命段祺瑞为国务总理，这是段的第三次组阁。段组阁时有一个老问题，就是要任命徐树铮为国务院秘书长，黎也是坚决不同意的，段把这意思请张国淦向黎去讲，袁死前段亦是请张国淦向袁要求派徐为秘书长而被拒。张知道黎也不会同意，可是又不能不讲，才向黎一提，黎就沉下脸来说：“请你告诉总理，一万件事我都依从他，就这一件我办不到。”张不好把这话对段讲，就去请教徐世昌，徐怕黎、段两人因此闹僵，乃亲自去见黎说：“我以为你一万件事都可以不依从他，这一件非依从他不可，不要怕又铮跋扈，芝泉已经够跋扈的了，多一个跋扈也差不了多少。”徐世昌的话一点也没有错，在当时的情势，段有没有徐树铮都是一样，他的眼中根本就没有黎元洪。
当黎同意徐树铮为国务院秘书长时，有一个保留条件，就是规定国务院秘书长来见总统陈事时，须先知会总统府秘书长一同入见。这个规定也是令人不解的，原来黎做总统后，段从不以总理身份去见总统，而是由国务院秘书长前往。徐树铮见黎时也并不尊敬，黎有时问起某一件公务时，他总是这么说：“现在是责任内阁制，有总理负责，总统不必多问。”
小徐有才气但任性，段能倚信小徐，实在很难得，可是小徐的缺点是跋扈，很难与人共事，像张国淦这样能够忍让的人，亦无法和小徐相处，竟于8月1日辞职，由丁世峄继任。丁鉴于张的失败，所以采取不让步态度对小徐，并提出府院办事手续草案，建议：“大总统得出席阁议发表意见，但不得参加表决；大总统对国务自由行使其职权。如用人不同意，得拒绝盖印。阁员应随时向总统面商要政，国务会议前须将议事日程陈报，会议后须将议事纪录呈阅。”
黎自丁世峄入幕后，声势一振，其左右如哈汉章、金永炎、黎澍、蒋作宾等，亦附和丁的建议。段一怒而请假不视事，赖徐世昌等调和，段才稍稍让步，于八月廿六日手谕徐树铮：“本院呈请大总统核阅文件，应责成该秘书长躬自递呈，用印后赍回，无论风雨黑夜，不得假手他人，以昭慎重而免差异。”又呈报黎：“逐日文件，均由树铮躬递。该员伉直自爱，不屑妄语，其于面对时，凡有声明为祺瑞之言者，祺瑞概负全责。”对有关府院权限问题，亦议定折衷办法，即：
（一）国务会议议事日程先期呈阅，事后送呈议事纪录；
（二）国务会议散会后，推国务员一人入府报告议决事项；
（三）每星期五，国务员齐集总统府会商政务。举行聚餐；
（四）总统对国务会议议决案如有认为不合者，得命总理及主管阁员说明其理由，如仍认为不合，得交复议一次；
（五）未经国务会议议决之命令，总统得拒绝盖印。府院职权因此明确划分。
徐树铮不只和总统府秘书长对立，在国务会议中也引起了极大的麻烦。在第一次阁议中，内务总长孙洪伊就和徐树铮吵了起来。照法理讲，国务院秘书长只能列席内阁会议，并无发言权，那次阁议中，讨论到广东李烈钧和龙济光的纠纷，徐主张电令闽、粤、湘、赣四省会剿李烈钧，孙主张去电和解，其他阁员皆赞成孙的主张，不过为了段的面子，没有制止小徐发言，小徐竟于阁议后，将会剿李烈钧的电报拍发，待四省复电国务院，阁员们才知其事，孙洪伊遂在阁议席上指责小徐，小徐也反唇相讥，两人几乎拍桌吵闹，而段却有左袒小徐的意思。
总统和国务院职权划分后，国务院大权几全集中于徐树铮之手，不止孙洪伊不满，其他阁员也不满意，不久发生了任命郭宗熙为吉林省长和查办福建省长胡瑞森案，遂使内阁的火药气氛接近爆炸。这两案都是徐树铮擅行决定，得段同意办理，既未经阁议审查，又没有主管内务总长副署，徐即以国务院名义径行咨复国会。孙洪伊认为小徐眼中完全没有内务总长，段也不尊重自己，乃当面质问段：凡与各省民政长及有关的问题，内务总长是否无权过问？院秘书长是否有权擅自处理？段无言回答，只说了一句：“又铮荒唐。”吩咐把胡瑞森一案的咨文追回，可是国会已经印发了出去，无法追回，孙乃于八月三十日愤而辞职。段一面派许世英致意慰留，一面调整内阁办事程序五点：（一）凡答复议会之质问书，须由主管部起草；（二）颁布命令须由国务员副署；（三）院令须经国务会议通过；（四）阁议通过者，秘书不得擅改；（五）各项法令非经总理及主管部总长副署，不得发出。黎闻知此事，乃于十月一日召见孙，面予恳留。
不久，孙以裁汰内务部员司，为被汰人员祝书元等28人借口不合文官任免休职条件，控拆于平政院，平政院决定受理，限孙五日内提出答复。孙认为平政院是袁所设，其本身地位有问题，因而置之不理。10月7日平政院认为内务部非法，任免令一律取消，由院呈请大总统下令执行。孙则力斥平政院非法设立，不在民元《约法》内。双方争执甚为激烈，孙认为这是徐树铮幕后策划出来的。
孙和总统府秘书长丁世峄同为国会中的韬园系，这一系在国会中颇有力量，所以孙亦有恃无恐，与丁联合对抗小徐。丁对小徐处处防范抵制，不似张国淦那么随和，因此遂使当时政治空气紧张。
10月18日，徐树铮忽然手持“孙洪伊着即免职”的命令请黎盖印，黎为之骇然，坚决不肯盖印。此后，徐一连到公府催促四次，最后一次公然很不礼貌地说：“总统不盖印，就只能不准伯兰（孙）出席国务会议”！此时，黎一肚子的火大喝一声：“你说的是一句什么话”！徐冷冷地回答说：“这是总理说的”。
这次政潮的范围非常之广。国会议员王玉树等提出对政府的质问案，认为要罢免一个总长，应该由国会提出弹劾，而不能准许国务总理独断独行。孙洪伊本人则认为“国务员对总统应负联带责任，内阁可以总辞，不能单独免一个阁员的职。”
10月24日，很少到公府来的段忽然来到了公府，亲自请黎在免孙的命令上盖印。黎仍然拒绝。段乃气势汹汹地说：“总统不肯免孙伯兰的职，就请免我的职吧”！黎被他这一将军抵挡不住，便又无可奈何地说：“可以让伯兰自动辞职，免职令还是不下的好”。但是孙洪伊表示除非总统下令免职，自己决不自动辞职。
10月27日，黎请参谋总长王士珍与孙同到公府来商量这个问题。王士珍劝孙让步，以一个专使的名义出洋考察，不开去内务总长的职，由次长代理部务，以便和缓政潮。孙表示不愿出洋。
国会中韬园派议员吕复、褚辅成等提出了弹劾院秘书长徐树铮案，并且还拟进一步弹劾国务总理段祺瑞。徐看见问题闹大了，不免情虚胆怯，便表示“只要伯兰辞去内务总长，维持总理的威信，可以调任为全国水利总裁，或者外放省长”。孙表示：“什么官我都不要，只要维持我的人格”。段听了孙不辞职，不出洋，不外调的话，不禁怒冲冲地说：“好，我们大家都辞职，让孙洪伊一个人去干”！
一方面表示决不辞职，一方面表示不把他逐出内阁就不能维持总理的威信，可是如果维持了总理的威信，势必又会影响到总统的威信，这个问题纠缠不清，始终找不出一个适当的解决办法来。于是黎的策士主张电召“隐居”卫辉的徐世昌到北京组织内阁以代段。他们认为，段的政治资本是北洋派，而徐世昌在北洋派中的资望远在段之上，并且张勋对徐抱有特殊好感，因此以徐代段不会引起严重后果。黎也觉得傀儡总统和盖印机器做得太苦了，不如痛痛快快地干一下，就采纳了策士们的建议，派王士珍到卫辉迎接徐世昌来。
从10月下旬到11月，徐世昌突然变成“解决时局的中心人物”。北京传出来的消息异常混乱，一会儿说徐即将来京，一会儿又说他不肯来。最后，他提出了“拥护元首”、“维持合肥”、“不入政界”三个条件，要黎答应后才肯动身。
徐世昌于11月16日到北京，当天并不到公府谒见黎。17日，黎亲自到五条胡同拜访他，希望从他取得一些安慰，但是他只向黎说了一些海阔天空漫无边际的话，黎十分扫兴地回到公府来。府秘书长丁世峄劝黎不要因此灰心，他认为：“半推半就是人之常情，徐世昌不会爽爽快快地表示自己愿意做总理。段是个心地狭小的人，先发表命令，必然会负气出走，徐就可以从容上台了”。黎不以这个意见为然。另外有人建议电召冯国璋、陆荣廷晋京，然后下令免段的职，黎也不以为然。那些策士不满于这种畏首畏尾的态度，因此，他们没有取得黎的同意，就打电报给冯国璋，假造“菊老已允出山”的消息，请冯发电为之捧场。可是冯的消息很灵通，早已知道徐世昌不敢取段而代，同时冯自己正因为当选副总统，地位在段之上而感到局促不安，想找一个机会应酬段一下，因此回电说，内阁仍以维持原状为宜。这样，就使黎的逐段计划多了一层阻力。徐世昌上台多了一层顾虑。
17日，徐世昌到府提出府院威信双方兼顾的办法，就是孙洪伊、徐树铮两人同时免职，并且推荐张国淦继任院秘书长。他认为张国淦以前做过府秘书长，又做过段内阁的阁员，这样一个与双方都有良好关系的人继任秘书长，一定能够融洽府院感情。此时黎既没有勇气拒绝徐世昌的意见，而舍此之外又无更妥善的办法，就于20日下令罢免了孙洪伊的内务总长。
22日，徐树铮拿了免他自己的职的一道命令入府盖印。黎一面盖了印，一面又觉得忐忑不宁，要聘徐做公府军事顾问，还说了一些安慰他的好话。
24日，段向公府提出三点质问：一、现在府方一切措施，是否与责任内阁制的精神完全相符？二、府方经常延搁国务院的呈阅公文，倘有贻误，其责任应当谁属？三、经国务会议通过应当发布的命令，府方经常拒绝盖印，能否说明其理由？
孙洪伊仍然退回到国会，仍然不断利用国会党团的力量打击段。6年1月14日，步军统领江朝宗忽然派兵到羊肉胡同孙宅进行搜查，据说孙宅藏有“危险分子”八人，孙洪伊有“阴蓄死士进行暗杀”的嫌疑。这样，孙便只得逃往南京托庇冯国璋。
一般人都以为府院政潮已因黎之软化而告解决，但是段的看法不一样，他认为孙洪伊免职仅仅是内阁内部的问题，不能视为府方的让步，院秘书长徐树铮既然去职，府秘书长丁世峄也该去职。黎本想拒绝段的这个无理要求，可是忽然张勋来一个痛斥丁世峄的电报，因此黎只好同意段的要求，2月25日派夏寿康继任府秘书长。
丁世峄辞秘书长后，发表辞职书有云：
“国务会议以前无议事日程，会议以后无报告，发一令总统不知其用意，任一官总统不知其来历，国务总理恒匝旬不一晤总统，惟见秘书长传达于其间，有所询则以事经阁议，内阁负责为对抗。大总统无见无闻，日以坐待用印为尽职。……曹汝霖使日事，一月以前日外务省早经奏明日皇，而我大总统至时尚未尽知其事。内阁与章公使往来十余电报未一呈阅。
……”