他被称为国民党最清醒的上将。1949年11月，他从成都登机准备赴台，飞机经停香港启德机场，他以探望父亲为由下机，从此留在香港。

那一年，国民党兵败如山倒。辽沈、淮海、平津三大战役打完，精锐部队损失殆尽。接着蒋介石下野，李宗仁代总统，桂系和黄埔系明争暗斗。国民党高层忙着往台湾撤，能带走的黄金、文物、军队都往那座岛上搬。

彼时，关麟征手里还攥着陆军总司令的任命，不过他很清楚，这个总司令不过是个空壳子，手底下没兵，说话没人听。

关麟征是黄埔一期，陕西鄠县人，跟胡宗南、杜聿明同期。他打仗勇猛，古北口血战，身中5处弹伤仍不退，重创日军，战后获青天白日勋章。在台儿庄、第一次长沙会战都有过亮眼的表现，时人称之为“关铁拳”。

不过他与陈诚水火不容，两人吵了二十多年。昆明一次争执，陈诚气得胃出血。陈诚是蒋介石最核心的嫡系，土木系首领，退台后军政大权必然落在土木系手里。关麟征知道，去了台湾，就得在陈诚眼皮底下讨生活，日子不会好过。

更关键的是，蒋介石对他也是一边用一边防。关麟征战功累累，在黄埔系声望很高，1949年蒋桂博弈时，桂系拉拢过他，这事让蒋介石心里扎了根刺。

1949年5月，他在成都主持军校校务会议，第一次透露军校要做好外迁准备。他说时局浮云遮日，只会越来越坏。他建议各级主官先把眷属疏散，十天之内，二十六辆卡车载着军校眷属从南较场开出，驶向各地。后来军校迁往云南，他不愿把军校交给陈诚，力主迁滇，勉强争了个折中。

8月，李宗仁任命他为陆军总司令。他有意干，可又跑到奉化请示蒋介石。蒋介石说，你一向带部队的，当参谋总长不适宜，不如做陆军总司令好。

关麟征听出话里有话，蒋介石并不真想让他掌权。回到成都等任命，等了一个月没动静。他原本兼任的第八训练处职务被拿掉，组训新部队的计划成了泡影。他私下派妻弟到香港买了房子，做好了出走的打算。

9月初，他把军校校长交给张耀明。交接那天，他如释重负，回去就给长女关伯琨办了婚事。10月6日，新旧校长完成最后一道交接手续。11月，他坐上飞往台湾的飞机，在香港果断下机。陆军总司令部迁到宜宾，他连去都没去，而是悄然辞职，退出军界。自此他住进九龙，做起了寓公。

有人说关麟征怕陈诚，事实上陈诚1965年去世后，蒋介石多次邀他赴台任职，他仍然拒绝。这说明他的选择跟个人恩怨无关，是他看透了国民党那套权力游戏，不想再卷进去。

他在香港住了二十六年，平日里读书写字，偶尔跟旧部聚聚，不谈政事。1975年蒋介石去世，他短暂赴台参加葬礼，事毕立刻返回香港。1980年，他在香港病逝，终年七十五岁。

在那个年代，能看清局势的人不多，能看清后果断抽身的更少，所以后人称他为国民党最清醒的上将。他用一次果断抽身，换来了清闲自得的后半生。