建兴九年春二月，孔明复出师伐魏。时魏太和五年也。魏主曹睿知孔明又伐中原，急召司马懿商议。懿曰：“今子丹已亡，臣愿竭一人之力，剿除寇贼，以报陛下。”睿大喜，设宴待之。次日，人报蜀兵寇急。睿即命司马懿出师御敌，亲排銮驾送出城外。懿辞了魏主，径到长安，大会诸路人马，计议破蜀兵之策。张郃曰：“吾愿引一军去守雍、郿，以拒蜀兵。”懿曰：“吾前军不能独当孔明之众，而又分兵为前后，非胜算也。不如留兵守上邽，余众悉往祁山。公肯为先锋否？”郃大喜曰：“吾素怀忠义，欲尽心报国，惜未遇知己；今都督肯委重任，虽万死不辞！”于是司马懿令张郃为先锋，总督大军。又令郭淮守陇西诸郡，其余众将各分道而进。
前军哨马报说：孔明率大军望祁山进发，前部先锋王平、张嶷，径出陈仓，过剑阁，由散关望斜谷而来。司马懿谓张郃曰：“今孔明长驱大进，必将割陇西小麦，以资军粮。汝可结营守祁山，吾与郭淮巡略天水诸郡，以防蜀兵割麦。”郃领诺，遂引四万兵守祁山。懿引大军望陇西而去。