白崇禧到台湾以后，日子过得憋屈。1949年底他从海口飞到台北，下飞机才发现迎接他的是保密局的人。蒋介石给了他一个"战略顾问委员会副主任委员"的虚衔，实权全抽空了。更难受的是，保密局在他公馆对面设了个派出所，名义上维持治安，实际上专门监视他的一举一动。他出门有吉普车跟着，打电话有人听着，连去花莲打猎都有人盯着。

白崇禧心里清楚，表面不动声色。

有一天他和几个朋友在台北一家咖啡店喝咖啡，聊得挺开心。临走时，他忽然把另外两桌客人的账也一起结了。朋友莫名其妙：你请客请错人了吧？白崇禧压低声音说："我看出那两桌是给我买单的。"

这话传开后，那些不速之客也认了——那天咖啡店里确实只有那两桌是有任务的。白崇禧不多不少，一眼看穿。

"小诸葛"这外号不是白叫的。

但这份精明没能让他松快多少。1954年秋天他去花莲打猎，坐轨道台车上山。经过一座木桥时，桥面突然断裂，车和人一起往下坠。副官拼死把他推出车外，自己跟着车掉进了五十多米深的山谷，当场殉难。前一辆车上的乡长父子也没能幸免。

白崇禧从地上爬起来，望着谷底和四周的山野，半天没说话。事后调查，桥墩的螺丝钉被人提前拧松了。

从那以后他更加谨慎，打猎、下棋这些爱好也主动收了。有一次出门，发现后面跟的吉普车抛了锚，他不但不走，反而停下来让侍从去告诉那帮人：慢慢修，不急。

这位曾经指挥百万桂系大军的"小诸葛"，晚年窝在台北一幢旧式平房里，出门散步都要先看看身后有没有尾巴。1966年12月，他在寓所去世，死因至今众说纷纭。