已而果然。遭继母忧，诏起复，再疏辞，不许。西北别部野乜克力，其长曰亦剌思王，曰满哥王，曰亦剌因王，各遣使款肃州塞，乞贡且互市。巡抚许进、总兵官刘宁为请，文升言互市可许，入贡不可许，乃却之。
土鲁番既袭执陕巴，而令牙兰据守哈密，僣称可汗，侵沙州，迫罕东诸部附己。文升议，此寇桀骜，不大创终不知畏，宜用汉陈汤故事袭斩之。察指挥杨翥熟番情，召询以方略。翥备陈罕东至哈密道路，请调罕东兵三千为前锋，汉兵三千继之，持数日粮，间道兼程进，可得志。文升喜，遂请于帝，敕发罕东、赤斤、哈密兵，令副总兵彭清将之，隶巡抚许进往讨，果克之，语详《进传》。
团营军不足，请于锦衣及腾骧四卫中选补。已得请矣，中官宁瑾阻之。文升及兵科蔚春等言诏旨宜信，不纳。陕西地大震。文升言：“此外寇侵凌之兆。今火筛方跳梁，而海内民困财竭，将懦兵弱。宜行仁政以养民，讲武备以固圉。节财用，停斋醮，止传奉冗员，禁奏乞闲地。日视二朝，以勤庶政。且撤还陕西织造内臣，振恤被灾者家。”帝纳其言，内臣立召还。
文升为兵部十三年，尽心戎务，于屯田、马政、边备、守御，数条上便宜。
国家事当言者，即非职守，亦言无不尽。尝以太子年及四龄，当早谕教。请择醇谨老成知书史如卫圣杨夫人者，保抱扶持，凡言语动止悉导之以正。若内庭曲宴，钟鼓司承应，元宵鳌山，端午竞渡诸戏，皆勿令见。至于佛、老之教，尤宜屏绝，恐惑眩心志。山东久旱，浙江及南畿水灾，文升请命所司振恤，练士卒以备不虞。
帝皆深纳之。民困赋役，文升极陈其害，谓：“今民田十税四五，其输边塞者粮一石费银一两以上，丰年用粮八九石方易一两。若丝绵布帛之输京师者，交纳之费过于所输，南方转漕通州至有三四石致一石者。中州岁役五六万人治河，山东、河南修塞决口夫不下二十万，苏、松治水亦如之。湖广建吉、兴、岐、雍四王府，江西益、寿二府，山东衡府，通计役夫不下百万。诸王之国役夫供应亦四十万。
加以湖广征蛮，山、陕防边，供馈饷给军旅者又不知凡几。赋重役繁，未有甚于此时者也。宜严敕内外诸司，省烦费，宽力役，毋擅有科率，王府之工宜速竣。
庶令困敝少苏。更乞崇正学，抑邪术，以清圣心；节财用，省工作，以培邦本。”
诏下所司详议。他所论奏者甚众。在班列中最为耆硕，帝亦推心任之。自太子太保屡加至少保兼太子太傅，岁时赐赉，诸大臣莫敢望也。
吏部尚书屠滽罢，廷推文升。御史魏英等言兵部非文升不可，帝亦以为然。
乃命倪岳代滽，而加文升少傅以慰之。岳卒，以文升代。南京、凤阳大风雨坏屋拔木，文升请帝减膳撤乐，修德省愆，御经筵，绝游宴；停不急务，止额外织造；振饥民，捕盗贼。已，又上吏部职掌十事。帝悉褒纳。一品九载满，加少师兼太子太师。帝以将考察，特召文升及都御史戴珊、史琳至暖阁，谕以秉公黜陟。
又以文升年高重听，再呼告之，命左右掖之下阶。始文升为都御史，王恕在吏部，两人皆以正直任天下事。疏出，天下传诵。恕去，人望皆归文升。迨为吏部，年已八十。修髯长眉，遇事侃侃不少衰。
孝宗崩，文升承遗诏请汰传奉官七百六十三人，命留太仆卿李纶等十七人，余尽汰之。正德元年，御用监中官王瑞复请用新汰者七人，文升不奉诏。给事中安奎刺得瑞纳贿状，劾之。瑞恚，诬文升抗旨，更下廷议，皆是文升，帝终不听。
文升因乞归，不许。
是时，朝政已移于中官，文升老，日怀去志。会两广缺总督，文升推兵部侍郎熊绣。绣怏怏不欲出，其乡人御史何天衢遂劾文升徇私欺罔。文升连疏求去，许之。赐玺书、乘传，月廪岁隶有加。家居，非事未尝入州城。语及时事，辄颦蹙不答。居三年，刘瑾乱政，坐文升前用雍泰为朋党，除其名。五年六月卒，年八十五。瑾诛，复官，赠特进光禄大夫、太傅，谥端肃。
文升有文武才，长于应变，朝端大议往往待之决。功在边镇，外国皆闻其名。
尤重气节，厉廉隅，直道而行。虽遭谗诟，屡起屡仆，迄不少贬。子璁，以乡贡士待选吏部，文升使请外，曰：“必大臣子而京秩，谁当外者？”卒后逾年，大盗赵鐩等剽河南，至钧州，以文升家在，舍之去。攻泌阳，毁焦芳家，束草若芳像裂之。嘉靖初，加赠文升左柱国、太师。
刘大夏，字时雍，华容人。父仁宅，由乡举知瑞昌县。流民千余家匿山中，逻者索赂不得，诬民反。众议加兵。仁宅单骑招之，民争出诉，遂罢兵，擢广西副使。
大夏年二十举乡试第一。登天顺八年进士，改庶吉士。成化初，馆试当留，自请试吏。乃除职方主事，再迁郎中。明习兵事，曹中宿弊尽革。所奏覆多当上意，尚书倚之若左右手。汪直好边功，以安南黎灏败于老挝，欲乘间取之。言于帝，索永乐间讨安南故牍。大夏匿弗予，密告尚书余子俊曰：“兵衅一开，西南立糜烂矣。”子俊悟，事得寝。朝鲜贡道故由鸦鹘关，至是请改由鸭绿江。尚书将许之，大夏曰：“鸭绿道径，祖宗朝岂不知，顾纡回数大镇，此殆有微意。不可许。”乃止。中官阿九者，其兄任京卫经历，以罪为大夏所笞。宪宗入其谮，捕系诏狱，令东厂侦之无所得。会怀恩力救，乃杖二十而释之。十九年，迁福建右参政，以政绩闻。闻父讣，一宿即行。
弘治二年服阕，迁广东右布政使。田州、泗城不靖，大夏往谕，遂顺命。后山贼起，承檄讨之。令获贼必生致，验实乃坐，得生者过半。改左，移浙江。
六年春，河决张秋，诏博选才臣往治。吏部尚书王恕等以大夏荐，擢右副都御史以行。乃自黄陵冈浚贾鲁河，复浚孙家渡、四府营上流，以分水势。而筑长堤，起胙城历东明、长垣抵徐州，亘三百六十里。水大治，更名张秋镇曰“安平镇”。孝宗嘉之，赐玺书褒美，语详《河渠志》。召为左副都御史，历户部左侍郎。
十年命兼左佥都御史，往理宣府兵饷。尚书周经谓曰：“塞上势家子以市籴为私利，公毋以刚贾祸。”大夏曰：“处天下事，以理不以势，俟至彼图之。”
初，塞上籴买必粟千石、刍万束乃得告纳，以故，中官、武臣家得操利权。大夏令有刍粟者，自百束十石以上皆许，势家欲牟利无所得。不两月储积弃羡，边人蒙其利。明年秋，三疏移疾归，筑草堂东山下，读书其中。越二年，廷臣交荐，起右都御史，总制两广军务。敕使及门，携二僮行。广人故思大夏，鼓舞称庆。
大夏为清吏治，捐供亿，禁内外镇守官私役军士，盗贼为之衰止。
十五年拜兵部尚书，屡辞乃拜命。既召见，帝曰：“朕数用卿，数引疾何也？
”大夏顿首言：“臣老且病，窃见天下民穷财尽，脱有不虞，责在兵部，自度力不办，故辞耳。”帝默然。南京、凤阳大风拔木，河南、湖广大水，京师苦雨沈阴。大夏请凡事非祖宗旧而害军民者，悉条上厘革。十七年二月又言之。帝命事当兴革者，所司具实以闻，乃会廷臣条上十六事，皆权幸所不便者，相与力尼之。
帝不能决，下再议。大夏等言：“事属外廷，悉蒙允行。稍涉权贵，复令察核。
臣等至愚，莫知所以。”久之，乃得旨：“传奉官疏名以请；幼匠、厨役减月米三斗；增设中官，司礼监核奏；四卫勇士，御马监具数以闻。余悉如议。”织造、斋醮皆停罢，光禄省浮费巨万计，而勇士虚冒之弊亦大减。制下，举朝欢悦。先是，外戚、近幸多干恩泽，帝深知其害政，奋然欲振之。因时多灾异，复宣谕群臣，令各陈缺失。大夏乃复上数事。
其年六月再陈兵政十害，且乞归。帝不许，令弊端宜革者更祥具以闻。于是，大夏举南北军转漕番上之苦，及边军困敝、边将侵克之状极言之。帝乃召见大夏于便殿，问曰：“卿前言天下民穷财尽。祖宗以来征敛有常，何今日至此？”对曰：“正谓不尽有常耳。如广西岁取铎木，广东取香药，费固以万计，他可知矣。”
又问军，对曰：“穷与民等。”帝曰：“居有月粮，出有行粮，何故穷？”对曰：
“其帅侵克过半，安得不穷。”帝太息曰：“朕临御久，乃不知天下军民困，何以为人主！”遂下诏严禁。当是时，帝方锐意太平，而刘健为首辅，马文升以师臣长六卿，一时正人充布列位。帝察知大夏方严，且练事，尤亲信。数召见决事，大夏亦随事纳忠。
大同小警，帝用中官苗逵言，将出师。内阁刘健等力谏，帝犹疑之，召问大夏曰：“卿在广，知苗逵延绥捣巢功乎？”对曰：“臣闻之，所俘妇稚十数耳。
赖朝廷威德，全师以归。不然，未可知也。”帝默然良久，问曰：“太宗频出塞，今何不可？”对曰：“陛下神武固不后太宗，而将领士马远不逮。且淇国公小违节制，举数十万众委沙漠，奈何易言之。度今上策惟守耳。”都御史戴珊亦从旁赞决，帝遽曰：“微卿曹，朕几误。”由是，师不果出。
庄浪土帅鲁麟为甘肃副将，求大将不得，恃其部众强，径归庄浪。廷臣惧生变，欲授以大帅印，又欲召还京，处之散地。大夏请奖其先世忠顺，而听麟就闲。
麟素贪虐失众心，兵柄已去无能为，竟怏怏病死。
帝欲宿兵近地为左右辅。大夏言：“保定设都司统五卫，祖宗意当亦如此。
请遣还操军万人为西卫，纳京东兵密云、蓟州为东卫。”帝报可。中官监京营者恚失兵，揭飞语宫门。帝以示大夏曰：“宫门岂外人能至？必此曹不利失兵耳。”
由是，间不得行。
帝尝谕大夏曰：“临事辄思召卿，虑越职而止。后有当行罢者，具揭帖以进。
”大夏顿首曰：“事之可否，外付府部，内咨阁臣可矣。揭帖滋弊，不可为后世法。”帝称善。又尝问：“天下何时太平？”对曰：“求治亦难太急。但用人行政悉与大臣面议，当而后行，久之天下自治。”尝乘间言四方镇守中官之害。帝问状，对曰：“臣在两广见诸文武大吏供亿不能敌一镇守，其烦费可知。”帝曰：
“然祖宗来设此久，安能遽革？第自今必廉如邓原、麦秀者而后用，不然则已之。
”大夏顿首称善。大夏每被召，跪御榻前。帝左右顾，近侍辄引避。尝对久，惫不能兴，呼司礼太监李荣掖之出。一日早朝，大夏固在班，帝偶未见，明日谕曰：
“卿昨失朝耶？恐御史纠，不果召卿。”其受眷深如此。特赐玉带、麒麟服，所赉金币、上尊，岁时不绝。
未几，孝宗崩，武宗嗣位，承诏请撤四方镇守中官非额设者。帝止撤均州齐元。大夏复议上应撤者二十四人，又奏减皇城、京城守视中官，皆不纳。顷之，列上传奉武臣当汰者六百八十三人，报可。大汉将军薛福敬等四十八人亦当夺官，福敬等故不入侍以激帝怒。帝遽命复之，而责兵部对状，欲加罪。中官宁瑾顿首曰：“此先帝遗命，陛下列之登极诏书，不宜罪。”帝意乃解。中官韦兴者，成化末得罪久废，至是夤缘守均州。言官交谏，大夏等再三争，皆不听。正德元年春，又言：“镇守中官，如江西董让、蓟州刘琅、陕西刘云、山东朱云贪残尤甚，乞按治。”帝不悦。大夏自知言不见用，数上章乞骸骨。其年五月，诏加太子太保，赐敕驰驿归，给廪隶如制。给事中王翊、张襘请留之，吏部亦请如翊、襘言，不报。
大夏忠诚恳笃，遇知孝宗，忘身徇国，于权幸多所裁抑。尝请严核勇士，为刘瑾所恶。刘宇亦憾大夏，遂与焦芳谮于瑾曰：“籍大夏家，可当边费十二。”
三年九月，假田州岑猛事，逮系诏狱。瑾欲坐以激变律死，都御史屠滽持不可，瑾谩骂曰：“即不死，可无戍耶？”李东阳为婉解，且瑾诇大夏家实贫，乃坐戍极边。初拟广西，芳曰：“是送若归也”，遂改肃州。大夏年已七十三，布衣徒步过大明门下，叩首而去。观者叹息泣下，父老携筐送食，所至为罢市、焚香祝刘尚书生还。比至戍所，诸司惮瑾，绝馈问，儒学生徒传食之。遇团操，辄荷戈就伍。所司固辞，大夏曰：“军，固当役也。”所携止一仆。或问何不挈子姓，曰：“吾宦时，不为子孙乞恩泽。今垂老得罪，忍令同死戍所耶？”大夏既遣戍，瑾犹摭他事罚米输塞上者再。
五年夏，赦归。瑾诛，复官，致仕。清军御史王相请复廪隶，录其子孙。中官用事者终嗛之，不许。大夏归，教子孙力田谋食。稍赢，散之故旧宗族。预自为圹志，曰：“无使人饰美，俾怀愧地下也。”十一年五月卒，年八十一。赠太保，谥忠宣。
大夏尝言：“居官以正己为先。不独当戒利，亦当远名。”又言：“人生盖棺论定，一日未死，即一日忧责未已。”其被逮也，方锄菜园中，入室携数百钱，跨小驴就道。赦归，有门下生为巡抚者，枉百里谒之。道遇扶犁者，问孰为尚书家，引之登堂，即大夏也。朝鲜使者在鸿胪寺馆遇大夏邑子张生，因问起居曰：
“吾国闻刘东山名久矣。”安南使者入贡曰：“闻刘尚书戍边，今安否？”其为外国所重如此。
赞曰：王恕砥砺风节，马文升练达政体，刘大夏笃棐自将，皆具经国之远猷，蕴畜君之正志。绸缪庶务，数进谠言，迹其居心行己，磊落光明，刚方鲠亮，有古大臣节概。历事累朝，享有眉寿，朝野属望，名重远方。《诗》颂老成，《书》称黄发，三臣者近之矣。恕昧远名之戒，以作传见疏。而文升，大夏被遇孝宗之朝，明良相契，荃宰一心。迨至宦竖乘权，耆旧摈斥，进退之际所系讵不重哉！
