在生死决战的关键时刻，素来不和的青、宁“二马”为保存自己的实力勾心斗角，都不愿当“出头鸟”，因宁马提前脱逃，“二马”平凉决战计划胎死腹中。鉴此，彭德怀随即改变策略，分头追击“二马”，8月3日，占领六盘山，割断“二马”的联系，使其各成孤军。
遭分割的马步芳极度恐慌，但仍存侥幸。觉得青海是自己的大本营，草原广阔，人熟地利，兵源充足，便于部队机动作战；而解放军第一野战军劳师远征，人地两生，补给困难。认为“保住西北大局惟在于同解放军决战一场，而兰州有南山屏障、黄河天险，是决战的好地方。”此时的蒋介石也深知，如果西北保不住，西南也就很难保住，决定利用青、宁“二马”的所有力量与第一野战军拼个鱼死网破。为此，委派国民政府行政院院长兼国防部部长阎锡山，召集马步芳、马鸿逵、胡宗南等在广州召开了“西北联防会议”，策划了兰州决战计划，决定由马步芳部节节抗击，吸引和消耗第一野战军主力于兰州城下，然后集结宁夏的马鸿逵部和秦岭地区的胡宗南部攻击第一野战军侧背，三路夹击第一野战军于兰州外围。同时，还欲让新疆警备总司令陶峙岳部进行东援。
关于兰州决战的问题，中共中央进行了认真慎重的研究部署。毛泽东指出，解决青、宁“二马”应区别对待，其核心是打击马步芳。一方面，青马与我解放军长期对抗，残杀红军无数，十分疯狂反动，政治争取没有可能；另一方面，青马在政治上占统治地位，在军事上比宁马强大，歼灭了青马，即可基本上解决西北问题。而马鸿逵是傅作义将军的拜把兄弟，曾派人向傅作义将军表示有向我求和之意，即使不投诚，只要歼灭了青马，宁马必然无心抵抗，可达一石二鸟之功效。毛泽东进一步强调指出，如果兰州一战能歼灭青马主力，大西北的解放便指日可待。这样，新中国宣告成立就更具条件了。由此可见，兰州战役能否实施及成败与否，将决定整个西北解放的进程，关系新中国的成立，是重中之重，关键之关键。
8月4日，彭德怀、张宗逊等向各兵团发布了进军兰州的作战命令：以2兵团之3个军和19兵团之2个军分两路包围进攻兰州；由1兵团附62军突破敌右翼向马步芳青海老窝迂回，以动摇其军心，并拦阻和歼灭从兰州逃窜之敌。尔后西渡黄河，直取西宁。另以19兵团的64军在固原一带向宁马佯动，并准备阻击来援之宁马；以18兵团主力及第7军等3个军沿川陕公路前进，以钳制胡宗南部。第二天，又下发了《解放大西北的政治动员令》，我军独有的政治优势增强了全体指战员敢打必胜的信心，参战部队同仇敌忾、士气高昂。
从8月9日起，第一野战军3路大军边打边向西挺进。由于长途行军，地广人稀，又逢雨季道路泥泞，粮食、鞋袜以及弹药接济不上，给部队带来许多困难。缴获的粮食没有时间磨面，只能煮麦粒为食。加上部队不适应西北高原气候，长时间露宿荒野、街头，不少人患上感冒、痢疾、疟疾等疾病。但广大指战员不为困难所惧，不为环境所屈，奋力前进。杨得志、李志民率领的右路第19兵团于19日进至兰州东南25公里的定远镇以东地区，并攻占了猪咀岭、张中店；许光达、王世泰率领的中路第2兵团于同日占领兰州城南20公里的阿干镇及9条路口，按计划抵进兰州城西、城南；王震率领的左路第1兵团和62军逼近临夏，钳制青马；周士第率领的第18兵团和7军在宝鸡、天水地区围困胡宗南残部，以配合兰州战役行动。
