呂彥直被委任為中山陵建築師，雖沒有與國民政府簽軍令狀，但迎柩奉安的大日子已擇於1929年6月1日舉行，呂彥直為確保工程如期完成，即使被上海的名醫診斷為肝臟與腸臟都有癌細胞，亦堅持帶病親自督工，即使躺在病床也指導副手按他的設計進行，1929年3月18日，呂彥直撒手塵世。孫中山靈柩如期奉安中山陵，為表彰呂彥直盡忠職守，勞苦功高，國民政府頒令嘉獎，文告非常感人：「總理葬事籌備處建築師呂彥直，學事優良，勇於任事，此次籌建總理陵墓，計畫圖樣，昕夜勤勞，適屆工程甫竣之時，遽然病逝，眷念勞勩，惋惜殊深，應予褒揚。」