西安是他的老家，同学朋友众多，其中黄埔同学也不少，找个军职对他来说不算太难。当时杨虎城部的警备第3旅旅长王竣是张灵甫在黄埔军校的三期学长，他竭力游说张灵甫投到杨虎城的麾下，许诺说可以保他做副旅长。张灵甫黄埔毕业后就一直在中央军的部队任职，而且是号称“天下第一师”的胡宗南的正宗嫡系，要他放下身段到地方杂牌军里混差事，他才不愿意，再说这时西安事变刚刚尘埃落定，在张灵甫这个对蒋介石忠诚
不二的黄埔生眼里，杨虎城根本就是大逆不道的叛将，岂有卖身投靠之理。虽然张灵甫不领情，王竣却对他依然有笼络之意，在张灵甫再婚之际，王竣还亲自送来了二百大洋作为贺礼，但是张灵甫对王竣邀请入伙的好意却坚辞不受。
张灵甫这一次的再婚妻子，是出生西安名门的高艳玉。高家在西安是名副其实的名门望族，据说祖上曾经是前清的状元，官拜翰林，高家大院是当时西安北院门最好最阔气的院楼，院子里还有自家的戏台子。张灵甫在西安没有置过自己的房产，婚后就迁居高家。这桩婚事的介绍人，正是张灵甫以前在陕西省立第一师范学校的恩师韩兆鄂。
说到这件婚事，之前还发生了一件有趣的小插曲。
在韩兆鄂往高家替张灵甫做媒的时候，高家还同时收到另一名候选女婿的求婚。巧的是，这一位也是一个陕西人，也在中央军嫡系部队任职上校团长，还也是黄埔四期毕业，这个人居然就是张灵甫的同学加朋友胡琏胡琏，陕西华县人，黄埔军校四期毕业生，曾任蒋介石嫡系部队第18军军长，第十二兵团副司令。1949年去台湾后，担任过金门防卫军司令、陆军副总司令及“总统府”战略顾问，并晋升为一级陆军上将。。听起来这两个候选女婿条件不相上下，高母比一比媒人送来的相亲照片，这位未来的丈母娘当场就替女儿拍了板，她相中了照片上西装革履英俊倜傥的张灵甫，把其貌不扬的胡琏淘汰出局。这件相亲撞车的事大约纯属巧合，倒是没听说张胡两人存下什么芥蒂，而且之后同乡同学的交情还不浅。
