成化八年（1472年），马文升请求驻军韦州，在各堡寨伏兵，顺利在黑水口击破鞑靼，生擒其平章迭烈孙，又在汤羊岭取胜，斩首二百级。马文升连战皆捷，颇有战绩，但因他在奏捷时据实而报，且朝中无人协助，故而仅获薄赏。次年，三边总制王越取得红盐池大捷，马文升也派其子马琇报功。廷臣勘查，认为马文升所奏不实，宪宗于是给予他“表奏不实，停俸三月”的处分
成化十一年（1475年）春，马文升代王越为总制，协调延绥、宁夏、甘肃三边军务，到十一月，即被召回朝中，任兵部右侍郎。
成化十二年（1476年），被派出整饬蓟门至辽东边备，与辽东巡抚陈钺不和。马文升上疏言辽东事，多涉及陈钺，两人遂结怨。而陈钺的后台是权势颇大的太监汪直。
成化十四年（1478年），发生陈钺错杀女真贡使、激变辽东之事。汪直打算亲往平定，以立功显名。太监怀恩建议派朝中大臣前往安抚，马文升立即支持，并受委任。汪直提出派人同往，马文升也没有同意。这一来，又得罪了汪直。汪直后来与刑部尚书林聪等勘边事，说辽东激变，是马文升禁止边方农器贸易所致。马文升申辩无用，被下诏狱，谪戍重庆卫。马文升在戍所滞留四年。 [6] 汪直失宠后，他才复官。
