护羌校尉苏则于是固守姑臧，拒不投降。因道路遥远，且天气酷寒，蜀军粮草有限，故而吴懿只得领兵退还雍州。
刘备久攻上不下，十分恼怒。正无计可施，恰遇天寒地冻，洒水成冰。参军马谡于是建议修筑冰墙，以抵挡城中箭矢，使蜀军能够安然抵达上城下。
刘备大喜，于是趁着严冬冰雪覆盖之际，严令众军烧水浇筑冰墙，混以泥沙，十分结实。冰墙皆修筑一丈五尺高，不断往上推进。
不过数日，冰墙已经浇筑到了上城下。张既无论是用箭射还是用滚木、石去砸，那厚厚的冰墙都并无损坏。蜀军在冰墙的掩护下得以从容越过城外的壕沟，安全冲到上城下，随后弓弩手奋起掩护，轻步兵架起云梯，奋勇攻打。
张既挥军拼死反击，仗着居高临下的优势屡次击退蜀军，但终究是孤城难守，众寡悬殊，至十二月二十七日，城中守军伤亡逃散殆尽，城池终于被蜀军攻破。
张既命人焚烧了府库中的存粮，随后力战而亡，其余杨埠、姜叙等人也多战死。梁宽与其子梁绪、梁虔投降刘备，尹奉的侄儿尹赏也归附了蜀军。
刘备派尹赏带着张既的首级以及将士家眷的书信去陇关劝尹奉等人投降。那尹奉全家在马超之乱中被杀，对尹赏这个家族的独苗呵护备至，寄予厚望，如今见尹赏居然投降了刘备，反来劝降自己，尹奉顿时羞怒交加，当场吐血，回到住处后不久便气急而亡。
陇关之内的守军见主将身死，城外的蜀军又带来了张既的首级以及众军失陷在上城中的家眷书信，当下商议之后，便即开城投降。
至此刘备拿下了关陇全境。虽然在攻打上时死伤近万人，但破城之后收降的曹军也有二三千人，再加上陇关投降的三千曹军以及近来依附而来的羌氐兵，刘备的实力不减反增。
唯一可虑的是上存粮被张既临死之前下令烧毁，如今陇右极度缺粮，刘备手中的粮食再千里迢迢运到上之后已经只够蜀军自己食用了，抽不出多余的粮食来赈济饥民，以致陇右之地今年大荒，饥民只得向蜀中、关中逃难，沿途饿死无数。逃到蜀中、关中的流民也多沦为了当地豪族的佃户僮仆。
刘备手中无粮，只得对此听之任之。
尽管情况有些不完美，但能够拿下陇右，刘备却也已经颇为满意了。当下留兵把守陇右诸城之后，刘备下令，正式将都城迁到长安，同时命文武官吏都去长安举行大朝会。
半道之上，刘备收到了辗转送来的中原战报，得知庞统、黄忠、马超等人尽皆取得了进展，汉军拿下了许昌、汝南等地，逼得曹丕退往了洛阳。
刘备顿时愁眉紧锁，对旁边的关羽道：“刘贤兵锋如此锐利，恐将为我军之心腹大患啊！”
关羽沉默片刻，点头道：“如今曹魏屡败，虽尚有兖州、并州、河洛以及大半个冀州，半个豫州，拥兵二十余万，实力仍旧不容小觑，但与刘贤相比，却已经全面落入了下风。而我军初得陇右，关中残破，论实力依旧较弱。唯有拿下潼关，坐视曹丕与刘贤相争，我军再休养生息，积蓄力量，待三五年后，反能整合巴蜀关陇之力，真正与曹丕、刘贤相抗衡。在此之前，倘若刘贤速胜了曹丕，必定会立即出兵攻我，则我军势难与之相争。”
刘备点头道：“此言甚是，只是该如何才能平衡曹丕、刘贤，使得两家长久相斗，好让我军能够安心积蓄力量？”
关羽沉吟道：“只有谁强就牵制谁。只是潼关对我军十分重要，这却不能不先拿下。只有拿下潼关，我们才能隔岸观火，才有余力去平衡曹丕与刘贤。”
刘备闻言，点了点头，忽然道：“关平、关兴、关索、关凤四位贤侄和贤侄女如今都在刘贤麾下，倘若日后两军对垒，刀兵相见，岂不是人伦惨事？可否设法招他们回来？”
关羽眼睛一咪，随后道：“无妨，倘若真的两军对战，我只在阵前一招，诸子必定倒戈相投。如今暂且在刘贤麾下也好。”
刘备叹道：“朕知道你的打算，只是刘贤、庞统都非等闲之辈，只怕难以如愿。诸位侄儿都在刘贤麾下，这实非好事。还是先暂且设法召回才是，便是只能召回一两人也好啊！”
关羽闻言，缓缓点头，道：“当年我逃难道鲍家庄，曾为我三子关索定了鲍庸之女鲍三娘为妻。如今便可以成婚为名，招关索前来。此外男大当婚、女大当嫁。凤儿今也早过了及笄之年，也可寻一良配成婚了。”
刘备闻言，叹道：“朕与云长、翼德患难与共，朕登基时，册封刘禅为太子，众臣共推翼德之女为太子妃。倘若当时凤儿在，太子妃之位却也未必……。如今我其余诸子尽皆年幼，反是翼德之子张苞颇有勇略。若云长有意，朕愿保此大媒，你看如何？”
关羽点头道：“陛下美意，岂敢推脱？张苞此子我也极为喜欢，便依陛下吧。”
刘备点了点头，当下遣人去向张飞告知此事，随后命李福为使，前去武昌面见刘贤，并带着关羽的亲笔书信，以便召回关索、关凤等人。