徐元文在中央官署任职，遇事敢言，从不阿谀奉承。有一次，朝中举行九卿会议推举江西按察使人选，有人推举兴泉道张仲举，御史唐朝彝极力宣扬说，张仲举在福建没有做出好的成绩。九卿准备上书弹劾唐朝彝，可是副都御史李仙根、给事中李宗孔二人不愿在书上签名，于是连这两人一起弹劾。经吏部商议，把李仙根、李宗孔降五级调用，将唐朝彝革职，康熙皇帝认为对他们的处分太重。徐元文上奏说：九卿会议推举人选，本是朝廷中正当的讨论，大家各抒己见，怎能怕有分歧呢？现在因意见不一致，就对他们如此处分，如果所推举的不是有才能的人，那谁还敢提出驳议与更正意见呢？而且从原则上讲通过科举途径考中可以成为后备官员的，在公布名单时，必须全部列上，在讨论推举官员时，应当允许对所推举者提出相反的意见，如果任凭一二名势力大且强暴者对持反对意见的人妄加抨击，众人只能随声附和。这样的话，后果不堪设想。康熙认为有道理，应对他们免予处分。徐元文再一次上奏说：“凡是免予处分的，都是有罪之人，但是皇帝圣恩予以宽免。唐朝彝等人却是无罪之人，如果圣旨只说不必处分，就周全多了。”康熙同意了他的建议。
当时三藩之乱即将平定，吴三桂的几十万叛军陆续投降，如何处置他们关系重大。徐元文上疏说：“对于受胁迫而参与叛乱的人，应格外施恩宽赦，允许他们悔过自新。但如果让他们留在云南，却不是长久之计；移调到其他地方又耗资巨大；如果改换将领，会导致兵将的互相猜疑，终将留下隐患；划归各旗，又怕难以管理，所以应该区别对待。凡是可以留用的，应该与绿营、八旗将士一样录用，剩下的一律遣散为民，由各道安置，参加生产。这样既可以减少俸禄的开支，军需用品也可以逐渐宽裕。至于耿精忠、尚之信、孙延龄的老部下与嫡系，尤其应予解散，决不能让他们仍用藩旗的名目。三藩作乱期间，受害严重的是广东、福建、云南、贵州等省，叛贼在这些省份广征关税、贸易税，加重盐税，圈占了大量土地，无恶不作。现在，三藩已相继被消灭，而他们占夺民利破坏国政的事却由来已久，现在，朝廷大军势如雷霆，该处百姓渴望早日救他们于水火之中。应当先发布敕令，命令将军、总督、巡抚自进入贼境之日，马上废除以往所有的苛政。”康熙皇帝对这些建议很赞赏，下令讨论实行。
三藩之乱平定以后，有的大臣对康熙皇帝歌功颂德，请求登封泰山，而徐元文独持反对意见，他认为国家当务之急，不是搞那些礼仪活动，而是“振纲纪”、“核名实”、“崇清议”、“厉廉耻”，乘此武定功成之时，应该明白告谕大小官员，清除疑虑，共成千秋大业。革除沿袭下来的苟且积习。不要安于现状，要奋发进取。疏文写好后，同僚们觉得他的言辞太直，劝他不要上奏。而徐元文却坚持己见，毅然上奏。康熙皇帝对徐元文的建议颇为称赞，认为是合理的。于是登封泰山的典礼就被免除了。
清朝初期曾经多次下令清查大户人家隐占土地，来充裕国库的税收。规定：凡查出隐占田地的人户，或充军，或下狱。州县官吏为了升级进爵，捏造事实上报，以冒领功俸，这种现象不断出现，造成极大危害。徐元文通过查访得知：隰州蒲县（今属山西）庠生王命新、曹大明被迫出卖子女，康生贾松平竟把自己卖到平阳军营，夫妇同去服役，来交纳赋税。因此，徐元文极力陈述朝廷下令清查隐占田亩案，在具体实施中的弊端，他说：“有些土地，本来就是无主的，不是人们有意隐占不报。地方官吏谎称是诡诈的人隐占，错误的依靠惩罚人来解决问题，实际上是把无主之地强行摊派于人，然后借此搜刮钱财，敲诈勒索，到现在这种做法已沿袭多年。百姓不堪其苦，许多人举家逃亡。这样做名义上给国家增加粮产，实际上是虚耗粮产；名义上是清除弊端，实际上这才是弊端的根源”。督抚们在做之前共同进行欺骗，在做了之后又为做的事作掩盖。徐元文极力请求进行整治：“凡是以前假报的，实行自己检讨、主动坦白和互相检举，这些姑且予以宽免，始终掩盖不讲实情的，应加重给予治罪”。徐元文任左副都御史3年，兢兢业业致力于重振纲纪，整顿吏治。他与同他同属一个等级的官吏相处非常融洽、和睦，但是遇到问题却敢于极力争辩非弄清楚不可，没有什么顾忌。关系到八旗之内的事，众人大多退缩畏惧，不敢直言，唯独徐元文敢于讲话，敢于坚持自己的主张。先后上奏弹劾福建总督姚启圣纵恣橘诈，妒功喜能；浙江副都统高国相纵兵虐民，两淮巡盐御史徇私包庇贪官。将军马哈达提出民间有很多隐名逃亡的人，请求自行拘捕，不移交地方衙门。徐元文认为不能这样。他说：文武兵民的划分，历来如此，现在以拘捕窝藏的逃犯为名，辗转倾害，必将扰民。满员大臣主张，应当命令以将军为主和督抚共同协商去处理。徐元文认为：这样仍然是将军为政，应当以督抚为主会同将军去处理。双方争论不已。最后，康熙皇帝听从了徐元文的主张。徐元文认为，吏治清明首先要严格官吏的选拔，清朝初年连年用兵打仗，国库已告贫匮，于是决定实行捐纳授官。规定凡是捐纳做官的人，任期满3年以后，称职的给予升迁或转任，不称职的则予以罢免。但是，却没有坚持实行下来。后来又规定3年满期，如果再有捐纳，则一律升迁转任。这样实行捐纳就造成了吏治腐败。那时各部寺院有数千名笔帖文书一类的小官，他们一致要求依照旧例捐纳当个州县官吏。徐元文极力主张不可以这样。有些人惧怕激成事端，主张让步，满员大臣也好言相劝。徐元文和他们争论了3天，他对同僚们说：”这事除此别无它法，若出了事，由我一人承当，决不连累大家。
五、修史撰书任职两部
康熙二十二年（1683）冬，九卿会议推举道员王垓、胡悉宁为湖北按察使。康熙认为两人人才平庸，追问是由谁推举的。为此事，徐元文受到牵连，但是他并没有申辩，吏部商议将他降三级调用。康熙二十三年二月，康熙皇帝又命他专门管理史局，负责监修《明史》。当时，史局已建立5年，但修书未成。这时他既然不参与政事，于是便专心修史。他取来史局的人们所写的纪传稿，考订史实，参用诸家之说，以年为经以月为纬，亲自编辑。如果遇有疑难问题，就写信花钱请来熟知前朝典故的人，虚心求教，细心商榷，经常直到深夜。徐元文为修史，终日孜孜不倦，经过一年的努力，完成十分之六七的传记，缮写7卷本纪，撰稿15卷列传，呈进宫内。
修史名义上是学术性工作，但在清代，却包含着极强的政治敏感性。关于南明诸王及其大臣史事如何撰写，是《明史》编纂体例中最为敏感的问题，处理不好，会触怒皇上。历史上，由于秉笔直书而触犯皇上、遭致被革杀的史官，也不在少数。一些人出于顾虑，主张以崇祯十七年三月明朝覆亡为断，南朝诸帝不必写入。徐元文不同意，他认为南明诸王是客观存在的史实，不写入他们，《明史》何以为史书。争论不决之后，他毅然上疏，提出了关于编纂南明诸王史事的意见。他认为：《明史》的编写，本纪可以崇祯帝终止，但南明福、唐、桂三五史迹，不可以不著，如何写入？请援用《宋史》益、卫二王和《辽史》耶律大石之例，将三王著入附传。至于明末诸臣尽忠前所事者，凡考之有据者，都应当采摭。康熙帝看了徐元文的奏本，一时也难以处置，他召见徐元文，详细询问原由。康熙帝沉思很久，点首同意徐元文的编纂意见。南明诸王及为其尽忠的大臣们的史事，由于徐元文的力谏，在《明史》中得以再现。
徐元文为人外和内刚，直言无忌。他为政不畏权贵，尊礼守法。然而由于家门子侄不贤，巧取豪夺，为恶乡里，给政敌提供不少口实，使得徐元文一再遭劾。先是副都御史许三礼劾他人阁拜相后，收受贺银五千两。康熙帝置之不究。不久两江总督傅拉塔纠劾他及其子侄家人：“以官生理，公然受贿，扰害地方”。此次是满族封疆大臣的弹劾，康熙帝不能不问，追查结果，所讦各条虽多为徐元文子侄和家人所为，但他未能辞其咎。康熙帝法外加恩，让他致仕回籍，徐元文回乡后，昔日煊赫热闹的门庭变得门可罗雀。他感慨人情万端，官场险恶，终于抑情成疾，一病不起。不到一年，在康熙三十七年闰七月二十七日，这位清代名臣便郁郁而终。