中国人民解放军南渡长江时，国民党部队主力精锐已基本被歼灭。但是，地处西北的马步芳、马鸿逵部还有较强的战斗力。在东北和中原地区的战事基本结束时，毛泽东决定以第一野战军为主，连同华北野战军第18、第19兵团迅速向西北进军，剿灭马步芳和马鸿逵的反动武装。时任第一野战军司令员的彭德怀受命于1949年6月挥师西指，集中主力与马步芳、马鸿逵“二马”集团决战。在彭德怀的指挥下，第一野战军和华北野战军第18、第19兵团历经4个月的艰苦战斗，终于歼灭了西北“二马”的有生力量。1949年9月26日，青海、宁夏解放。
红军西路军曾惨败于“马家军”
1949年5月26日，毛泽东致电第一野战军司令员彭德怀：“依你的现有兵力，可以打胡、不能同时打马。而欲同时对马，必须等待18、19兵团开到，方有把握。”6月中旬，华北野战军第18、19兵团相继进抵西安、咸阳等地与第一野战军在关中胜利会师，准备参加彭德怀指挥的扶眉战役。第一野战军采用“钳马打胡，先胡后马”的作战方针，即首先集中力量与胡宗南决战，然后再与青、宁的“二马”决战。彭德怀将这个作战计划报告给毛泽东，毛泽东对负责执行“钳马”任务的杨得志19兵团极为关注，特意电告彭德怀：“杨（得志）兵团应立即西进，逼迫近‘两马’筑工，担任钳制‘两马’任务，严防‘两马’回击。此点严格告诉杨得志，千万不可轻视‘两马’。否则，必致吃亏。”
在解放战争中，对全副美械装备的蒋介石嫡系部队都不放在眼里的毛泽东，为何会对西北荒野戈壁的马步芳、马鸿逵部如此小心翼翼呢？其实这其中是有原因的。在红军时期，我军曾经吃过“二马”的亏，当时的红军西路军几乎全军覆没，可以说是“惨痛的教训”。这件事令毛泽东记忆深刻，所以他不得不慎重小心。
1936年9月23日，毛泽东指挥工农红军陕甘支队从哈达铺出发，突破国民党设置的渭河封锁线，迅速翻越六盘山进入陕西怀县。蒋介石令马鸿逵部：“共军长途行军，疲惫不堪，企图进入陕北会合刘志丹。兹命令你部骑兵前往堵截，相机包围，予以歼灭。”蒋介石还调集装备精良的5个骑兵团，协同马部尾追红军。对于尾追红军的马部骑兵，毛泽东决心予以还击。他让中央红军4个纵队巧布“口袋阵”待敌。10月18日拂晓，马部骑兵先头部队踏入红军的伏击圈。经过激战，死伤骑兵600余、俘虏骑兵1000多人，缴获马部战马1600多匹、追击炮和重机枪数十门（挺）。随后，彭德怀指挥红一、五军团与马鸿逵、马鸿宾的骑兵作战，也大有斩获。缴马匪战马数百骑，开辟了纵横200余公里的根据地。可是不久，红军西路军就吃了“二马”骑兵的苦头。
1936年11月8日，中央军委制定了《作战新计划》。《计划》提出：“徐（向前）陈（昌浩）所部组成的西路军，以在河西创立根据地、直接打通远方的任务。”随后红30军、红9军、红5军团共21800余人组成了西路军，徐向前为总指挥，陈昌浩为总政委，执行中央军委《作战新计划》赋予的任务。得知西路军的情况后，马步芳倾其所部围追红军西路军。他们利用骑兵反应快速、行踪飘忽的特点，在古浪地区，突然袭击西路军的左支队。没有及时突围的红9军与“马家军”的骑兵硬拼，一仗下来，损失兵力近三分之一。
此时西路军主力正在西征途中，他们接到中央的电示：“停止西进，在永昌、甘州、凉州、民勤一带创立根据地，以策应陕甘红军。”对中央的指示，西路军领导层认为：永（昌）凉（州）一线以至整个河西走廊，南邻终年积雪的祁连山，北依龙首山和浩瀚无垠的巴丹吉林、腾格里两块沙漠，进至这里几乎没有回旋余地。河西走廊的平川只有星星点点的土围子可作屏障。从地形上看，也难以建立根据地。况且河西是马步芳起家的根本，他曾号称“宁死一万人，不失一寸地”。因此，马步芳会不惜动用青海的全部人力、物力、财力投入到围剿西路军的战斗中。马步芳先后在河西投入的总兵力达12.5万人，而西路军的兵力仅是马部兵力的六分之一。但遵照中央的命令，西路军还是在永凉一线摆开，试图在此站稳脚跟，展开根据地创建活动。
正当徐向前、陈昌浩在永凉一带与马步芳鏖战正酣时，“西安事变”爆发了。为抗日民族统一战线的结成，中央命令西路军东返。此时，马步芳主力集结在东面，等着与西路军作战。徐向前等多数人认为西路军应趁虚西进，陈昌浩则认为应无条件执行中央指示。陈昌浩按多数人意见报告中央，中央回电认为：“在整个战略方针上来看，西路军以东进为有利”。徐向前、陈昌浩按中央回电精神拔营东进时，中央军委电示西路军：“‘西安事变’和平解决，西路军仍执行西进任务，占领甘、肃二州”。于是，西路军遵照中央的意图撤离永昌、山丹地区，顶风雪、冒严寒，又向西挺进。
1937年1月上旬，中央军委数电西路军：在高台、临泽地区集结，暂勿西进。集中全力击退尾追之敌，创建肃、甘、安根据地。西路军建议中央军委：为挽救西路军，让河东红军过河配合，东西夹击马步芳。军委告：河东抽不出部队西援，令西路军团结一致独立完成任务。1月12日，马家军以部分兵力钳制驻倪家营子等处的西路军主力，以重兵进攻孤居高台的红5军团。关键时刻，西路军收编的部分民团叛变。经过一番激烈巷战，西路军军团长董振堂以下的3000多名红军将士壮烈牺牲。徐向前、陈昌浩命令红军部队向驻在倪家营子的红30军靠拢，防止被敌各个击破。1万余名西路军将士迅速收缩集结到倪家营子地区，以红30军、红9军扼守西南、东北方向，构成椭圆形防御环。马步芳对陷入困境的红军发起集团冲锋，极度困乏的红军将士英勇顽强，奋力与敌厮杀。
倪家营子血战后，徐向前指挥西路军东返自救。党中央为避免西安地区紧张局势加剧，电令西路军停止东返。马步芳趁机进一步缩小对西路军的包围圈，并冲到纵深追击红军。西路军孤军奋战，没有后援，几乎日日与数倍于己的敌人厮杀缠斗，战况十分惨烈。红军战士的减员也很严重，西路军组建出征时是21800多人，到1937年3月中旬西路军撤进祁连山时，战亡者7000余人（其中团以上干部143人，军师级指挥员20多名），被俘后遭杀害者5600余人，被营救返回延安者约4700人，失散流落在途者4500人。
为了保住西路军的最后力量，党中央和毛泽东采取了许多措施和办法。1937年4月，西路军仅存的700多人在李先念的带领下，转移到安西星星峡，陈云在这里接他们进入新疆休整。
西路军在马步芳的步步紧逼下，几乎是全军覆没。这次惨痛的教训令中央不能轻视西北地区“二马”的实力。
马步芳武装瓦解殆尽
1949年6月，胡宗南部退至扶风、宝鸡、凤县地区，马步芳、马鸿逵部退至邠州、长武地区。他们都想借助对方的力量，阻止解放军进军甘肃、宁夏、青海或南下陕西汉中。根据毛泽东的指示，彭德怀指挥第一野战军于7月11日至14日在扶风、眉县地区发起“扶眉战役”，歼灭胡宗南部4个军4.4万余人，胡部退守秦岭一线。马步芳、马鸿逵部则西撤至平凉地带。根据战场态势的变化，我第一野战军选择在平凉地区与“二马”决战。可是“二马”却不战而退，不与我军正面交锋。同时，“二马”之间产生了嫌隙，马鸿逵觉得马步芳有保存实力的图谋，于是急电部下退守宁夏，不愿再和马步芳同进退。马鸿逵一撤，马步芳急忙撤至兰州。根据毛泽东“暂不占领汉中，集中兵力歼灭‘二马’”的指示，彭德怀命周士第兵团两个军于宝鸡、西安一线封锁胡宗南部；另派10个军追击“二马”。担任追击任务的部队20天内前进了1000余华里，才把马步芳逼进兰州城内。
兰州，是甘肃、宁夏、青海、新疆4省的枢纽，国民党西北军政长官公署所在地，西北政治军事中心。兰州城北面是汹涌奔流的黄河，东、南、西三面群山耸峙，易守难攻。而以甘肃人、河州人、回族人、马姓人为用人标准的“马家军”，则是用家族世袭和宗教控制的方法治兵，与国民党其他地方军队相比，战斗力相对较强。早前，马步芳和马鸿逵应逃亡广州的国民政府的急召，与胡宗南举行“西北联防会议”，拟制“兰州会战计划”。“计划”主要是马步芳集团依托兰州城固守，吸引和消耗解放军主力，会同马鸿逵、胡宗南两集团夹击第一野战军于兰州城外围。“计划”制定完，马步芳曾口出狂言：“兰州是攻不破的铁城！”、“彭德怀胆敢进攻兰州，本署以诱敌于有利地形与之决战，凭天然屏障于既设阵地，举全力而歼灭之。”可是马步芳说的狂言还没有落地，他就尝到了轻敌的苦果。失去同盟的马步芳只得退守兰州，决心凭借地形优势与彭德怀的大军对抗。
马步芳命令士兵将抗战时期国民党军构筑的工事修复加固。主阵地浇筑了钢筋水泥碉堡群，碉堡外斜面是6-10米高的环形峭壁，碉堡腰部凿有隐蔽的火炮侧射孔，碉堡脚下的壕沟3或6米宽且布铁丝网和地雷。阵地与阵地之间有公路贯穿，交通壕与交通壕连接。视兰州会战成败为生死存亡关键的马步芳，将所部战斗力最强的两个军、两个骑兵旅约5万余人守备在南山要点与城区；用2个军3万余人控制兰州东北黄河两岸地区；派2万骑兵防守临洮、宁夏地区，以保障兰州城左右翼的安全。
1949年8月4日，第一野战军发布进攻兰州的作战命令：以第18集团军留置宝鸡、天水地区继续钳制胡宗南集团，保障野战军主力左翼的安全；以第19兵团一部进至固原、海原地区，钳制马鸿逵集团，保障野战军主力右翼的安全；以第1兵团攻取武山、陇西、临洮，临夏，得手后北渡黄河直逼青海省会西宁，截断兰州马家军退路；以第2、第19兵团5个军15万人，沿西安至兰州公路分南北两路西进直取兰州。8月21日，第2、第19兵团出动9个团兵力攻击兰州外围诸要点。马家军凭借坚固工事和有利地形，以猛烈火力负隅顽抗，趁机向第一野战军侧翼反冲击。解放军与“马家军”激战1日，解放军不仅没有夺取1个阵地，而且消耗了大批弹药，人员伤亡无数。面对这样的战况，彭德怀果断下令全线停止进攻。8月23日，毛泽东致电彭德怀：“马步芳既然决心守兰州，有利于我军歼灭该敌。为歼灭该敌起见，必须集中3个兵团全力于兰州战役。并须1次打不开而用2次、3次攻击去歼灭马敌和攻克兰州。”遵照毛泽东的指示，在摸清马步芳的兵力和火力部署、工事构筑及布局、地形情况及作战特点后，彭德怀作出新的部署。
在此前几天，第一野战军第1兵团解放了青宁“二马”出生和起家之地一临夏，“马家军”的老窝子被抄，军心大动。马步芳慌忙从兰州前线抽调两个骑兵旅回防西宁，从而减轻了我军进攻兰州的阻力，解放军主力侧翼安全有了保障。感到兰州危在旦夕的马步芳，一面急电广州国民政府督促胡宗南、马鸿逵出面解围；一面派人飞银川向马鸿逵求援。马鸿逵是马步芳的长辈，因争权夺利二人失和已久。面对马步芳的求救，马鸿逵趁机故意刁难。最后，马鸿逵勉强拼凑一支贺兰军进驻宁甘边境，坐山观虎斗。自身难保的胡宗南也不肯驰援兰州。绝望的马步芳见兰州难保，于8月24日只身飞往西宁再携眷去重庆，所部交由儿子马继援指挥。8月25日拂晓，解放军攻城部队发起总攻。经激战，解放军攻占了被称为“兰州锁钥”的沈家岭、狗娃山、古城岭、马架山和阜南山最高峰营盘岭，兰州城暴露在解放军的火力控制下。马继援见外围主阵地在1日之内相继失守陷落，兵员伤亡惨重，在同马步芳电商后决定于25日乘夜幕强行通过黄河铁桥，向西宁撤退。25日夜，马继援部队奔来黄河铁桥。解放军已控制铁桥，马继援化妆兵丁趁乱逃脱。马步芳据守的兰州成了孤岛。26日12时，解放军全歼马步芳集团兰州残敌，兰州解放。是役，是西北解放战争中规模最大、战斗最激烈的城市攻坚战。第一野战军以8700余人伤亡的代价歼敌27000多人，消灭了马步芳集团主力，打开了进军青海、宁夏、新疆的门户。
王震受彭德怀之命率第1兵团乘胜追击，直逼“马家军”残部于西宁城下。逃到这里的马继援惊惶失措，惶惶然爬上飞机逃往重庆。9月5日，第一野战军第1兵团第1军先遣侦察队600余人抵达西宁。6日，第1军第2师5团在副军长兼第2师师长王尚荣的率领下，举行了声势浩大隆重的入城式。至此，马步芳家族的武装势力全部瓦解殆尽。
马鸿逵父子军团覆灭
歼灭马步芳集团后，彭德怀将歼灭马鸿逵集团解放宁夏的任务交给了杨得志的第19兵团。
马鸿逵集团企图作困兽斗，妄图以银川为中心据黄河天险，在南起靖远、同心、北至金积、青铜峡、灵武地域内构成两道防线，阻止人民解放军解放宁夏。宁夏“马家军”主要由马敦静为司令的宁夏兵团所辖的4个军和马鸿宾的儿子马惇靖为军长的第81军组成。马鸿宾虽是马鸿逵的堂兄，但二人的关系向来紧张。抗战时期，马鸿宾表示拥护中国共产党停止内战、一致抗日主张，曾在绥西一线同傅作义共同抗击日本侵略者。解放战争初期，马鸿宾的1名团长被俘，受到彭德怀的接见，这名团长将彭德怀的信带给马鸿宾。
关于用政治方式解决西北问题一事，毛泽东1949年8月6日在致彭德怀并贺龙、习仲勋的《兼取政治方式解决西北地区》的电报中说：“欲求彻底而健全有迅速的解决，必须采用政治方式，以战斗方式的辅助。现在我军占优势，兼用政治方式利多害少。……我们认为在马步芳解决后，必须使用杨得志兵团深入宁夏，给马鸿逵部以歼灭的打击，迫使残部退入后套，然后经过傅作义用政治方式去解决。”果然如毛泽东所料，宁夏马家军中的马鸿宾此时已经有了起义的念头。杨得志得知这一情况后，立即派第64军军长曾思玉为其全权代表，向马鸿宾发出“欢迎起义”的邀请，并承诺第81军起义后，解放军保证该军全体官兵的生命和私人财产的安全。9月19日19时，曾思玉代表解放军第19兵团，马惇靖代表国民党第81军，在中宁县城签订了和平解放的协定。第81军改编为解放军第一野战军独立第2军，马悼靖任军长。
马鸿宾的问题解决了，接下来就是解决马鸿逵的问题。毛泽东在1949年9月3日给彭德怀并贺龙、习仲勋的电报中作了具体指示：“马鸿逵残杀陕北人民甚多，从未做过好事，和平解放的可能性本来丧失，但实际执行起来恐怕有困难。”马鸿宾的起义令马鸿逵的势力大大减弱，完全无法与杨得志的19兵团抗衡。可是虽见大势已去，但马鸿逵仍不甘心失败。他对外宣传“虽留一兵一卒，也必须作战到底”，鼓动士兵作最后一战，但他自己却做着逃离银川的准备。1949年9月1日，马鸿逵借口出席国民党紧急军事会议去了重庆，把战场指挥权交给儿子马敦静。马敦静于9月5日在吴忠召开军事会议，制定了“放水、放火、打光”的计划。
9月9日，杨得志兵团分3路挥师宁夏。解放大军很快突破“马家军”的第一道防线，进逼第二道防线——中卫和中宁两个重镇。马敦静集结所属第128军、第11军，凭借金积和青铜峡险要地势与解放军第19兵团决战。9月19日午前，解放军第64军两个师分左右翼向金积一线猛扑，揭开金（积）灵（武）之战序幕。与此同时，解放军第63军由石空堡北渡黄河，沿黄河北岸前进，直指银川。马敦静命令工兵炸毁数十里黄河河堤，企图用洪水阻挡前进中的解放军。随后，马敦静将前线指挥权交给第128军军长卢忠良，自己逃飞重庆。马氏父子的逃离令宁夏的防御溃败，士兵成批地逃亡，军官们纷纷向解放军发出求和电报。19日晚，在重庆的马鸿逵想与在宁夏的部下电话联系，要和军官们讲话，劝说他们不要“投敌”，但是军官们没有一个人和他说话。
9月23日下午，宁夏兵团代表与解放军第19兵团达成《和平解决宁夏问题之协议》。至此，马鸿逵苦心孤诣经营数十年的老巢分崩离析，覆灭溃散。《协议》签订后杨得志接报：马家军宁夏兵团之贺兰军、第11军自行解散。贺兰军军长马全良、副军长王柏祥赶来吴忠堡，执意面见第64军军长曾思玉。马全良等请求曾思玉尽快派解放军入城，控制局势。事关和平解决宁夏政策，曾思玉向杨得志如实汇报。杨得志明确表示：“和平解决宁夏的协议刚签订，规定人民解放军25日接管银川，我们要严守信用。”曾思玉向马全良等传达了杨得志的意见，劝他们回去设法维持部队。马全良等表示决不回自己的部队，并说：“大军为拯救百姓提前入城，有何非议！”曾思玉再次请示杨得志。杨得志答复：“解放军仍不便进城。”马全良等人坚持认为：只有解放军提前进城，才能控制局势。杨得志第三次接听曾思玉的电话后，说：“我们不能首先破坏双方协议，让人家说共产党说话不算数。如果宁夏当局能正式向我军提出请求，或者组织银川各界代表出城迎接，我们可考虑提前进城。”不久，彭德怀告知杨得志：马鸿宾发来请求解放军入城的急电。在此情况下，杨得志即令第19兵团第64军提前入城。9月23日晚，第64军军长曾思玉命令所属第191师572团的先头部队连夜冒雨由仁存渡黄河，乘车进入宁夏省会银川。9月26日凌晨，第19兵团主力在银川市举行隆重的入城式。
彭德怀指挥大军横扫西北，歼灭马步芳、马鸿逵集团，为壮烈牺牲的红军西路军将士一雪前耻，解放了身陷苦难的广大西北人民群众。为新中国迎来了新的成员，为全国的解放做出了重要的贡献。彭德怀西北扫“二马”的光辉战绩，也永远载入了新中国的历史史册。