一九四四年，日寇「一號作戰」「確繫太平洋戰爭爆發後規模最大的一連串大軍作戰」計劃攻佔平漢鐵路之南段，進而打通湘桂鐵路及粵漢鐵路，摧毀中美空軍基地，力保日軍中國戰線後方與沿海補給線。衡陽則是連接東南和西南的戰略要地，包括航空、水運、鐵路、公路等戰略價值。方先覺第十軍從六月二十二日僅有一萬七千兵力，英勇抗擊日寇第十一軍司令橫山勇指揮五個師團近十四萬餘人整整四十七天，以空前戰損比例殺傷敵寇，確實雖敗猶榮。
戰前蔣介石指示方先覺：你必須堅守衡陽十天，吸引和消耗日軍兵力，等外線部隊集結部署好，再如第三次長沙會戰那樣包圍殲滅攻城日軍。老蔣保證方先覺實在守不住時，我四十八小時可解你衡陽之圍。
日寇第十一軍第四次打長沙，橫山勇改變戰術，以四個師團主力分左右大包抄，一舉擊潰薛岳機動部隊，六月十八日迅速拿下長沙，打破長衡戰區整體防禦。兩個師團乘勝直逼衡陽，估計方先覺五個團的疲兵，頂多守三天。沒料想日軍圍攻衡陽一個月，周邊陣地還有一半啃不動。東條英機內閣因太平洋戰爭連連失敗，「一號作戰」又在衡陽城下受挫，連師團長佐久間中將也被擊斃，被迫總辭職。橫山勇看到強攻衡陽把六十八、一一六兩個師團拚掉百分之三十，不如用圍城打援戰法消耗國軍。而蔣介石也不蠢，但是史迪威借羅斯福逼迫中國交出指揮權，令他急需一場勝仗。七月二十七日，他親筆寫信空投給方先覺：「守城官兵艱苦與犧牲情形已深知，余必為弟及全體官兵負責，全力增援與接濟，」即使暴雨蔣介石亦令冒險空投，每天幾十架次飛機補充彈藥糧食和醫療用品。
八月一日，日軍圍攻衡陽增到二十萬人，守城官兵不過三、四千。日軍集中炮火，令空軍不惜傷亡，把衡陽炸平。方先覺致電蔣介石：「本軍固守衡陽，已經月餘。一、衡陽房舍被焚被炸，物資盡毀；二、官兵傷亡慘重，彈藥缺乏，空投有限。我官忠勇用兵，前赴後繼」， 「一定死守」，「一死為國」。
八月三日，蔣介石令：「着第六十二軍不顧一切犧牲，再迅速前進，如衡陽解圍，官升級，兵有賞」。八月七日，蔣介石得方先覺電告：「敵人今晨突入巷戰，我官兵傷亡殆盡。」八月八日，日軍進佔衡陽，方先覺舉槍自殺被左右奪槍。蔣介石日記悲痛寫道：「以衡陽會戰守軍苦鬥歷時四十七晝夜，空軍偵察報告：衡陽城內已不見人迹。衡陽保衞戰之激烈持久為抗戰以來所未有，日軍傷亡一萬九千三百八十人，守軍傷亡一萬五千人。中國軍人的精神，震驚日本天皇，認為可以接受方先覺條件：不是投降，保存第十軍建制。橫山勇也不得不表示敬意，遂放鬆監視讓方先覺脫逃，經由湖南芷江回到重慶。蔣介石非常高興地說：「你回來了！好！好！我每天都在為你祈禱……」衡陽保衞戰擊斃日寇將校包括第六十八師團長佐久間中將、第五十七旅團長志摩源吉少將等三百九十人，參謀長原田貞大佐殘廢，書下官佐負傷五百二十人；日寇緊急空投幾百指揮官補充。
衡陽戰役延緩了日軍「打通大陸交通線」戰役的進程，策應美國奪取塞班島，最終導致了東條內閣的垮台。第十軍四位師長均獲頒青天白日勳章，是國民革命軍僅有一個軍的殊榮。與共產黨軍隊打游擊抗日不同，國軍守土有責，長沙六月十八日淪陷，指揮失當的第四軍軍長張得能被判處死刑。方先覺丟失衡陽又投降，被衡陽籍的參政員質問蔣介石，為何不法辦。老蔣明知死守衡陽的命令不可能執行，但也不能為方先覺辯解。正面戰場打不贏日本的悲劇難以為國人所接受。