当日，关索最后一次在诸葛亮府上交谈的时候，指出郝昭虽然会通过加固城墙，多建女墙的方式强化防御。只是这样做的后果便是使城墙的重量大大增加，如果能对城墙的地基下手，再将汧河之水灌入地下，一旦城墙的地基受损，整面城墙甚至都可能坍塌。
不过这样一来，势必会对汧县城池造成严重的破坏，即便汉军重新夺下，也很难再将他作为据点，抵御魏军。而且能否将河水精准地灌到地基下面，也是一大难题，因此诸葛亮一直对关索的建议有些犹豫。
不过经过长期的思考后，诸葛亮也觉得实在没有什么好办法能够以最小的伤亡夺下汧县，故而他最终采纳了这个计策。
表面上，吴懿命士卒前往汧水河畔开挖渠道。实际上，吴懿却是找了一处正对汧县西门门的宽大营帐，命三十余名士卒挖掘通往汧县的地道。由于担心城墙前的深邃沟壑会使其余地道暴露，故而诸葛亮只让汉军全力挖这一条地道。
不过挖掘地道，寨中势必会多出许多泥土。为了防止魏兵从城墙高处发现痕迹，诸葛亮特意在凉州备下了百余个大箩筐。吴懿便命士卒白日在帐中用箩筐装载泥土，等到天黑之后，再集体运到寨外倾倒，如此便成功躲过魏军的耳目。冬季昼短夜长，无疑给魏军的侦查带来了许多难度，郝昭又见汉军士卒不断在寨外巡逻，更有许多骑兵，故而也不敢轻易派斥候出城。城内只有两千魏兵，他着实不敢妄动，以免出现损折。
具体复杂地下挖掘工作的乃是马谡。他一直深受诸葛亮器重，此番也愿意承担这个重任。众多精壮士卒在他的安排下轮番上阵，昼夜不息，一路往正西方挖去。
诸葛亮在凉州时又命马钧做了一根长约三步的坚固木条，专门为了测量距离之用。马谡每日都在地下用木条反复计算地道的长度，以此推断与汧县的距离。另外还有一把极其宽大的直角三角木板，是马谡用来在地道里调整角度，使地道笔直通往汧县西门，以此避开位于城墙前的沟壑。
就这样不急不躁，把握好距离和方向，汉军历时近一月，终于顺利抵达汧县的西门地底。自从出了寨外，马谡便亲自带队，通过计算，他知道此刻挖掘队已经靠近汧县城墙，不能再往前开挖，否则一旦挖到魏军在城内准备好的堑道，那便彻底暴露，前功尽弃。
“军师，这应该便是城墙地基。”
少时，一名士卒压低声音，告知马谡。马谡这段时间曾告知他们，一旦挖出营寨，便不可高声说话，以免被听力极好的魏兵发现。
马谡来到那人所在的位置，用手摸了摸地道的顶端，果然有一处并非泥土，而是木桩。古代建造城墙前，先会在地上挖一圈深坑，然后将木桩打入地底，最后再用坌土建墙。很显然，这里便是马谡他们的目标所在。
“速命军士左右开挖！”马谡立刻低声下令。