呂彥直被委任為中山陵建築師,雖沒有與國民政府簽軍令狀,但迎柩奉安的大日子已擇於1929年6月1日舉行,呂彥直為確保工程如期完成,即使被上海的名醫診斷為肝臟與腸臟都有癌細胞,亦堅持帶病親自督工,即使躺在病床也指導副手按他的設計進行,1929年3月18日,呂彥直撒手塵世。孫中山靈柩如期奉安中山陵,為表彰呂彥直盡忠職守,勞苦功高,國民政府頒令嘉獎,文告非常感人:「總理葬事籌備處建築師呂彥直,學事優良,勇於任事,此次籌建總理陵墓,計畫圖樣,昕夜勤勞,適屆工程甫竣之時,遽然病逝,眷念勞勩,惋惜殊深,應予褒揚。」