1946年6月底，蒋介石在单方面撕毁和平协议后，悍然发动了全面内战。然而，经过两年的作战，国共战争形势发生了根本变化。其时，中国人民解放军已发展到280万人，而蒋军在被歼260余万人后，总兵力急速下降到365万人。战局的发展对国民党军日益不利，其兵力消耗甚大，蒋介石集团被迫频繁地调整军事策略，即由先前的全面进攻改变为重点进攻，再由重点进攻转变为全面防御。随着解放军之转入战略进攻，并把战争推向国民党统治区，国民党军在不断遭到失败的情况下，蒋介石又被迫放弃全面防御而采取重点防御，企图集中兵力固守战略要点。

　　1948年8月初，国民党政府国防部在南京召开军事会议，商讨关于重点防御及确保华中曾有所规划和准备的部署问题。由于力量愈加强大的解放军在战场上不断整军整师地歼灭蒋军，以至于国民党部队不敢一两个军单独与解放军接触。国民政府国防部遂就现有部队加以调整编配，组成若干兵团[BingTuan]，以准备即将来临的防御战。

　　第十[DiShi]二兵团[BingTuan]就是在这样的背景下组建而成的，它是国民党主力兵团[BingTuan]之一。据黄维《第十[DiShi]二兵团[BingTuan]被歼纪要》所载，该兵团[BingTuan]下辖四个军，即第十[DiShi]八军(兵团[BingTuan]骨干部队)、第十[DiShi]军(所辖整编第三师被歼后，交由整编第十[DiShi]八军胡琏重新成立整编第三师，该师悉由第十[DiShi]八军的建制部队和官兵拨编调整而成)、第十[DiShi]四军(该军前任军长罗广文是陈诚系分子，曾任第十[DiShi]八军第十[DiShi]八师师长，并曾一度任第十[DiShi]八军军长。罗广文后因未能出任第十[DiShi]二兵团[BingTuan]司令一职，遂以四川新兵训练司令而去职，继任军长为熊绶春)、第八十五军(军长吴绍周及其部队均系汤恩伯系，而吴此时的主要靠山是何应钦)。

　　组建第十[DiShi]二兵团[BingTuan]的时候，当时的国民党各军都还是用整编师的番号，到编为兵团[BingTuan]以后，才恢复军的番号。作为兵团[BingTuan]骨干部队的整编第十[DiShi]八军军长胡琏，其时已经管辖了三个整编师:整编第十[DiShi]一师(即第十[DiShi]八军，胡自兼师长)、整编第三师(即第十[DiShi]军)和整编第十[DiShi]师(即第十[DiShi]四军)。由于人事派系的斗争，蒋介石最终还是让黄维当了新组建的第十[DiShi]二兵团[BingTuan]司令一职。

　　翻阅相关史料，不难看出，黄维这个司令当得却颇具戏剧性:以整编第十[DiShi]八军为骨干部队组建的第十[DiShi]二兵团[BingTuan]，就算不让军长胡琏来当兵团[BingTuan]司令，也应该由比胡琏早当六个月第十[DiShi]八军军长的罗广文来出任。其实，蒋介石这么做是有一定原因的:首先，兵团[BingTuan]司令之所以由黄维来担任，这是陈诚对付何应钦、白崇禧刁难的不得已之计。因为蒋介石曾为兵团[BingTuan]司令人选的问题特意派林蔚去征询在上海养病的陈诚，陈诚本想让其嫡系爱将胡琏出任，但林蔚从中斡旋道:"胡琏当司令，下面的罗广文肯定不服，上面的白崇禧也不理睬他，到时候两头受气，很难把事情做好。"权衡之后，陈诚遂举荐另一嫡系爱将黄维；其次，因为整编第十[DiShi]八军在华中"剿总"司令白崇禧指挥之下，一方面，第十[DiShi]八军所属部队是华中的主力部队之一，白对胡也想拉拢；另一方面，白对陈诚及其嫡系第十[DiShi]八军向来有成见，对胡琏屡有攻击。国防部长何应钦因与陈诚是老对头，自然对胡琏不满。加上何应钦也有着自己的小算盘，于是，他联合"小诸葛"白崇禧准备共同保举后来投靠他的罗广文出任。但最终因顾祝同的一句"老头子都亲自找黄维谈过话了，你们还争什么"而作罢。