1854年4月29日，太平[TaiPing]天国北伐军在林凤祥、李开芳带领下，冲破重围，自阜城南下，于5月5日攻克东光连镇。为接应北伐援军，李开芳又与林凤祥相商，于5月28日统带630余名骑兵南下，次日占据高唐，在高唐与胜保为首的清军[QingJun]相持9个多月。1855年3月7日，僧格林[GeLin]沁攻克连镇，旋奉命“带兵驰往高唐督办军务”。李开芳又于3月17日夜率余众300余人自高唐突围而出。太平[TaiPing]天国北伐战争进入最后的阶段。
　　自高唐突围后，太平[TaiPing]军直奔东南而去。僧格林[GeLin]沁亦整队穷追。途中，太平[TaiPing]军打听到茌平冯官屯粮草甚多，遂一鼓而进，向屯内发动攻击。当地地主武装企图抵挡，但经不住太平[TaiPing]军的锐利攻势，武监生邹桂林、武庠生李连元及邹怀勤等执械阻挡，先后被杀，太平[TaiPing]军乘胜占领了冯官屯。鉴于该屯不仅确实有粮，而且还有城堡，加上后面官兵追赶甚急，太平[TaiPing]军遂决定在此据守，进行最后的抵抗（《茌平县志》，民国二十四年排印本，卷3，第17—18页）。
　　冯官屯距高唐州城45里，距茌平县城18里。从地形地势看，冯官屯“实属高唐、茌平之下阪，四方高而中央庳，为地势之坟起者”。正如清人所言：“今之为屯，古之所谓丘也”（《太平[TaiPing]军北伐资料选编》，第9页）。该屯三村相连，有居民数百家，周围均有深壕，加上“屯内半系豪族”，因而相当富庶。其中邹湘皋即“家素饶，有田数千亩”，且“多积粟”；而邹兰湘家则更是“富名闻于各府县”的官僚大地主（孙葆田：《校经室文集》卷4，第30—32页）。“屯内富室之居高楼大厦，缭以墙垣，皆砖石为之”，“十分坚固，炮不能入”。太平[TaiPing]军占据该屯以后，迅速“用各种大木器周围堵住”，“内掘陷坑，排列枪炮，守御极严”。僧格林[GeLin]沁率领清军[QingJun]“追至屯外，用马步队圈围”。太平[TaiPing]军见官兵近前，即放枪炮。僧格林[GeLin]沁只得率部在屯外“环圩筑堤、扎望楼以围困之”（《太平[TaiPing]军北伐资料选编》第9、656、662页）。
　　3月19日，僧格林[GeLin]沁即以优势兵力向太平[TaiPing]军发动猛烈进攻。官兵蜂拥而前，很快由屯西攻入村内，双方短兵相接，展开肉搏，战斗极为惨烈。太平[TaiPing]军在猝不及防的情况下，浴血奋战，杀伤一批清军[QingJun]。但太平[TaiPing]军伤亡亦重，终以敌众我寡，被迫放弃西面两村，退守冯官屯东南一隅，继续抵死抗拒（《清实录山东史料选》，第1320页）。
　　3月22日，清军[QingJun]从高唐将大炮运到，遂向冯官屯轰击，轰倒楼房数座，太平[TaiPing]军伤亡多人。当时，李开芳将作战指挥部设在地主邹振岐家，而邹振岐早已逃出冯官屯，并令其子邹湘皋往僧格林[GeLin]沁大营报告李开芳所在位置，于是“官军以巨炮轰击，仓箱尽毁”，以致太平[TaiPing]军无所得食（孙葆田：《校经室文集》卷4，第30—32页）。从此，太平[TaiPing]军粮草渐渐缺乏。其后，僧格林[GeLin]沁更是屡令官兵向村内轰击，致使“村内房屋，皆被击塌”。在这种情况下，勇敢机智的太平[TaiPing]军将士们，“因房屋不能栖止，在村内挖掘地壕，盘旋三匝，可由地下通行”，然后又在壕沟中挖掘地窖，“以避枪炮”，且资住宿。在窖外，又遍挖小孔，“伏于地下向外瞄视”，若官兵来攻，俟其“逼近鸟枪可及之处，即向上开枪”，故能击敌而不为敌所击。李开芳甚至还利用所挖地道，对付清军[QingJun]炮队，将僧格林[GeLin]沁“炮台轰倒，击死炮队弁兵多名”（《近代史资料》1979年第4期，第50页）。
　　3—4月间，官兵连日进攻，屡屡受挫。太平[TaiPing]军区区数百人，打起仗来却异常英勇顽强，官军每次进攻都是丢下一批尸体，大败而回。正如僧格林[GeLin]沁、德勒克色楞、西凌阿5月24日在给清廷奏折中所说：“此股窜匪占据冯官屯以来，奴才等曾饬兵勇极力进攻，无如该逆潜伏巢穴，并力死拒，百计引诱，坚匿不出。我军逼近，时有伤损，总未得手”（《太平[TaiPing]军北伐资料选编》，第130页）。这一切简直使僧格林[GeLin]沁束手无策，更生怕旷日持久而重蹈胜保被革职问罪的覆辙，在万般无奈情况下，僧格林[GeLin]沁又重演水攻连镇的故技，“拟由上河厅三孔桥挑开，引放运河”，以水灌屯。清廷虽认为“此计虽未免迂缓”，但最后还是批准了这一计划，并谕令“该大臣务当斟酌妥善，一面迅速办理，仍一面设法进攻，毋令负隅久踞”（《清实录山东史料选》，第1322页）。于是，僧格林[GeLin]沁下令“沿河筑堤”，以便开渠引水入屯。由于“运河势低，冯官屯地高”，僧格林[GeLin]沁“先将四周筑墙，外挖宽沟，挖壕之土，加培内墙”。已革广西左江道的张晋祥见“立功”的机会来了，便上书僧格林[GeLin]沁，表示“愿捐资独任其事”。僧格林[GeLin]沁遂派他征集民夫，“沿道筑堤”，开挖渠道，“自东昌三孔桥起，至冯官屯石桥止”。此沟口宽五六米，底宽2米有余，深约2米，长达123华里，费时逾月，用去52000余贯钱，至4月19日完工，即引运河水入壕。僧格林[GeLin]沁更飞速调集民夫2000人，用水车巴斗将水灌入墙内，墙外仍筑土墩，排列枪炮，“令兵勇站立瞭望”，“加意防范”，以防太平[TaiPing]军“突出挖墙倒浸”。“自水灌入壕后，将贼偷挖地雷多处均冲塌陷。”（《太平[TaiPing]军北伐资料选编》，第656—657、661页）。从此，北伐太平[TaiPing]军的斗争，便进入了最艰苦、最悲壮的阶段。

　　在此期间，太平[TaiPing]军也一面坚守阵地，一面继续寻找机会突围。4月14日，太平[TaiPing]军不动声色，潜行出壕，向屯西南清军[QingJun]发起猛烈进攻，以为突围之试探。清军[QingJun]发现太平[TaiPing]军的意图后，立即组织兵力拦阻。由于清军[QingJun]枪炮密集，太平[TaiPing]军遂被迫退回屯内。次日夜间，太平[TaiPing]军又沿着向西南清军[QingJun]炮台方向早已挖好的地道运动，乘清军[QingJun]不备，“全队扑出，直冲炮台”。在太平[TaiPing]军突如其来的攻势面前，炮台清军[QingJun]登时溃乱。守将格洪额见势不妙，“带队先奔”。太平[TaiPing]军扑上炮台，活捉以前投降清军[QingJun]、已升任都司的叛徒毛勇石（后被太平[TaiPing]军处死）（《道咸宦海见闻录》，第162页）。已占据炮台的太平[TaiPing]军，一面迅速将拉不走的炮位炮眼封死，使其不能继续使用，一面又“将炮台前壕墙轰塌”，使官军数日所筑大段壕墙毁于一旦。太平[TaiPing]军随即由炮台一带向外冲击。（《东华续录》咸丰朝，卷46，第6页）。僧格林[GeLin]沁闻讯后，慌忙带大兵来援，并下令开炮轰击太平[TaiPing]军。太平[TaiPing]军将士英勇冲锋，斩僧格林[GeLin]沁亲随、三等侍卫巴萨拉，连僧格林[GeLin]沁坐骑前胸亦为抬炮穿过，随从戈什哈也为太平[TaiPing]军击毙。僧格林[GeLin]沁虽未受伤，但已吓得丧魂失魄。嗣因官军继续开炮轰击，加以众寡悬殊，太平[TaiPing]军被迫丢下所携沉重木梯等械，退回屯内。是役，太平[TaiPing]军夺取了清军[QingJun]的炮位，给清军[QingJun]以较大杀伤，清军[QingJun]官弁各勇30余名被杀，且受伤者甚多。因疏于防范，僧格林[GeLin]沁被清廷交部议处。4月19日夜，太平[TaiPing]军又谋突围，他们用所造“上拴大炮”的长梯向外轰打，清军[QingJun]“伤亡兵丁不少”。僧格林[GeLin]沁“亲督大队围攻，坐马受伤，袍襟亦有伤痕”（《太平[TaiPing]军北伐资料选编》，第661页）。另据载：是日，太平[TaiPing]军还再度“穴地出抢炮台”，清军[QingJun]“死者30余人，伤者甚多”（同上书，第48页）。
　　此后，僧格林[GeLin]沁派兵勇数千，“昼夜车挽手推，并用戽水之法”，“灌注不息”。由于太平[TaiPing]军所占之处，地势较高，故“初时殊不惊惧，依前死守”。并曾“在壕内添土筑垒，巧为抵御”。僧格林[GeLin]沁又督兵勇继续“将围墙培厚加高，水势抬起，用水车水机水戽尽力浇灌，昼夜不息”（同上书，第130—131页）。加上“（三月）十六、七日（即5月1日、2日）大雨，水势大涨”，使太平[TaiPing]军“窖内已有浸入者”。自开始“用水浸灌十数日后，围墙以内水深三尺，低洼之处已有水至四五尺不等”，渐渐淹至太平[TaiPing]军所据之地。不久，太平[TaiPing]军“潜伏之处，俱已有水深三二尺，谷麦虽尚充足，半被水浸”（同上书，第131页）。再往后，屯内更是“遍地皆水，只剩二三丈干地”及“破屋数椽”，除李开芳尚可支床及少数将士在干地栖息外，其他太平[TaiPing]军将士或“处泥淖中”，或“聚居楼上”，火药、粮食亦多被浸湿。据记载：当时，太平[TaiPing]军“尚有米麦两囤，火药数篓”，但由于太平[TaiPing]军“米麦无处舂杵，不能作食”，也严重削弱了战斗力。而清军[QingJun]却仍用大炮不时轰击，甚至还时常向太平[TaiPing]军驻地发放“炸炮”，其中有一“炸炮”适落太平[TaiPing]军“环聚之屋”，“中堆火药数篓”，炸死炸伤太平[TaiPing]军将士多人。太平[TaiPing]军不仅柴米匮乏，甚至连饮水也成了问题，出现了“无水可饮，饮者多疫死”的局面。这是因为时值初夏，“水秽臭多蛆，人马粪溺，皆酿其中，风日薰蒸”，病菌丛生，故“饮者辄死”。而太平[TaiPing]军将士“皆裸足水中，水已及膝，而遍腿粘蛆”（《道咸宦海见闻录》，第162页）。据载：老奸巨猾的僧格林[GeLin]沁，还收购大量青蛙，投放到冯官屯东寨水中，命清军[QingJun]于蛙不鸣处以排枪扫射，造成太平[TaiPing]军的更大伤亡。
　　在上述极端不利的情况下，太平[TaiPing]军继续与清军[QingJun]进行着顽强的搏斗，并继续多方设法突围，但均未成功。据僧格林[GeLin]沁等人5月24日的奏折称：“三月二十日（5月5日）以后，该逆见水势日长，始露惊慌，连次乘夜窥伺，由水底拖栅向南北炮台奔扑，均经兵勇随时击退”（《太平[TaiPing]军北伐资料选编》，第131页）。5月11日夜，太平[TaiPing]军曾组织了一次突围，“出来扑大炮台”，虽很快以失败告终，但亦曾活捉清军[QingJun]中营义勇王士熊等人。至12、13日夜间，太平[TaiPing]军又“忽两次抢扑炮台”，亦均为清军[QingJun]开炮击退（《清代档案史料丛编》第5辑，第210页）。15、16等日，太平[TaiPing]军再次出动大股，力图冲围而出，仍未成功。18日夜间，太平[TaiPing]军向北面炮台连扑5次，均经察哈尔都统西凌阿“亲督兵勇痛击”，“败退而回”。19日夜二更，西南风起，清军[QingJun]乘机发动攻击，清将经绵洵、经文岱督饬官兵，顺风将火球装入炮中，向屯内发射，击中太平[TaiPing]军所占据的破房，将该处所存火药燃着，“登时火起，破房数间及坍塌房屋木料并轧米碾盘全行焚毁”。清军[QingJun]“趁火光照亮，向内击打，直到次日寅刻，火炮熄止”。是役，太平[TaiPing]军伤毙将士数十名，“烧毁火药器械米谷无算”。此时，李开芳及太平[TaiPing]军将士仍不肯束手待毙，又开始打造“木牌长梯”，“意欲舍死奔扑”，尽快突围。僧格林[GeLin]沁等亦“节次申谕各营悉力严防，不准稍涉大意，总期聚而歼旃，不令一名漏网”；与此同时，他又估计再等水长尺余，太平[TaiPing]军“即须悬釜而炊”，届时必有恶战，命各营“兵勇趁时奋击，可望一鼓荡平”。为早日结束战事，僧格林[GeLin]沁等人又向东昌调拨小船数只，“一俟到齐，即选择会水兵勇合力进攻”。以后数日，“连日风势大作，未免消水”，僧格林[GeLin]沁等人即饬兵勇极力浸灌。于是，冯官屯“围堤以内高处有水三四尺，低洼处有水深五六尺”，太平[TaiPing]军“窖之内亦有水三四尺不等”。这使太平[TaiPing]军处境更加困难。虽有不少将士因伤病饥饿而相继倒毙阵地上，但仍坚匿如前（《太平[TaiPing]军北伐资料选编》，第131、134页）。
　　僧格林[GeLin]沁也了解到太平[TaiPing]军的处境已极为困难，便又玩弄起两手策略：一方面不给太平[TaiPing]军以喘息之机，加紧进攻，并于5月25日调来小船数只，配合兵勇围攻太平[TaiPing]军；一方面又极力施展诱降伎俩，对李开芳“假以爱其才干，谕令一并投诚”，曾于5月26日“先令续行投出之人向内招呼，解散胁从，并用箭缚扎手谕，予限三日，投诚免罪”（同上书，第134页）。处于绝境的李开芳见清军[QingJun]诱降，也将计就计，向清军[QingJun]“献诈降书”，企图采取里应外合策略趁机突围，即：先派一部分将士去敌营诈降，待诈降的将士过壕到敌营后，李开芳即率所余全部将士开炮突围，诈降的将士听到炮声，立即从敌营内杀起，里应外合，乘敌不备，迅速突出重围。至5月28日，李开芳先派先锋黄近文（黄大汉）带太平[TaiPing]军将士140余名，“混于难民内，泅水出降”，以便里应外合，乘机突围。但僧格林[GeLin]沁老谋深算，早已看出太平[TaiPing]军这一手，并设计好了圈套。据5月31日僧格林[GeLin]沁等人的奏折称：“奴才揆度形状，实系诈降，仍佯为信实，将投出之人全数渡引出墙。”为此，他命“授巨绳二，以绳之两端牢系树上”，使太平[TaiPing]军将士“足踏一绳，手攀一绳，过水来降”。及太平[TaiPing]军与难民出壕，僧格林[GeLin]沁便将太平[TaiPing]军将士分拨各营。据载，他曾“派庆将军等数员，一在营门口，开造姓名清册；一在营内十步外，收其军械；一在三十步外，捆缚两手”，每一名太平[TaiPing]军将士均派兵5名押至僧格林[GeLin]沁营后听令。又据载：当太平[TaiPing]军将士出至130余人之际，屯内所余太平[TaiPing]军即已“开放大炮，喊杀之声突起”，准备与已出壕之太平[TaiPing]军合击官兵，但因清军[QingJun]早已防范，诈降之太平[TaiPing]军业已被捕，致使屯内太平[TaiPing]军将士开放枪炮后，“仅伤营外（清军[QingJun]）数兵，见无动静，知已失计，不敢遽出”（《近代史资料》1979年第4期，第50页）。于是，太平[TaiPing]军里应外合突围的计划很快失败了。僧格林[GeLin]沁见时机已到，“遂密传号令，于未刻整队攻打”，但太平[TaiPing]军亦极力抵抗，仍“防守如常”。清军[QingJun]穷追猛冲，“越墙逼近土堰，放火烧之”，“烧毁贼窟窝铺数处，引燃火药，枪炮连环轰打，烟火弥漫”，太平[TaiPing]军“仍能抵拒”。是役，清军[QingJun]除击毙个别太平[TaiPing]军将士外，“仅擒获活贼十名，仍未能捣穴擒渠”。最后，太平[TaiPing]军余部只得又退回屯内据守，而先后遭捕、生擒的140多名将士则于当晚被杀害（《太平[TaiPing]军北伐资料选编》，第657页）。但这些因诈降遭捕的太平[TaiPing]军将士临刑前也设法与清军[QingJun]进行了抗争。其中一太平[TaiPing]军士兵手带金镯，有一清军[QingJun]马兵“意欲独得其财”，遂向太平[TaiPing]军士兵“好言索镯”。太平[TaiPing]军士兵即诱其松绑取镯，正取镯间，太平[TaiPing]军士兵“反手拔马兵之刀，一挥两截，夺马突围杀出，砍伤阻拦兵勇十数人，狂奔而去”。后以身单力孤，加上清军[QingJun]在前“以桌椅堵塞街道，马不能驰”，且后有追兵，刀枪并举，这名太平[TaiPing]军士兵终为清军[QingJun]杀害（《近代史资料》1979年第4期，第51页）。
　　5月29、30两日，僧格林[GeLin]沁乘太平[TaiPing]军新败，又接连督率兵勇发起攻势。战斗中，清军[QingJun]枪炮齐施，击伤一批太平[TaiPing]军将士（《清实录山东史料选》，第1326页）。清军[QingJun]虽连日进攻，却仍未突破太平[TaiPing]军防线，太平[TaiPing]军依旧“防守照常”。但李开芳见突围希望渺茫，幻想妥协，求敌人让步而南归，遂派一人泅出再“送降禀”，要求清军[QingJun]“让其一路逃往南省”，并表示再不北犯，被僧格林[GeLin]沁拒绝。当时僧格林[GeLin]沁一面呵斥不准，一面督令兵勇极力围攻（《东华续录》咸丰朝，卷47，第21页）。可是，僧格林[GeLin]沁又很担心太平[TaiPing]军尤其是李开芳等人宁为玉碎，不为瓦全，誓死抵抗或自杀，使自己达不到生擒邀功的目的，进而又在加紧围攻的同时，假惺惺表示：只要肯降，便可不杀。以此劝李开芳等出降。李开芳在武力突围、派兵诈降、乞求让路等种种南归努力完全失败的情况下，权衡再三，遂于31日上午“复呈降表”，宣布投降。而李开芳虽“复呈降表”，却仍幻想诈降突围，故此次投降，实有“志在乘机逃脱”之意（薛福成：《庸庵笔记·科尔沁郡王擒获林凤祥、李开芳》）。僧格林[GeLin]沁表示：“限午时先缴军械，方准投诚”。1小时后，太平[TaiPing]军遂缴出军械，出城就擒（《太平[TaiPing]军北伐资料选编》，第135页）。对于投降的太平[TaiPing]军将士，僧格林[GeLin]沁并不履行自己的诺言，反而采取了极为残忍的报复手段。他先是“批准派船往接，选识水性义勇二十坐船入内”，令太平[TaiPing]军“亦以二十人坐一船，分五路出营”；同时又“虑其突出南走”，更在屯外“令数万人张左右翼以待”。不久，清军[QingJun]即“遥见数十人张红伞拥开芳来”。当这些手无寸铁、毫无反抗能力的太平[TaiPing]军将士们行至壕边时，即一一为官兵所擒，并被“讯明姓名、籍贯、年月造册”。据载，当时，僧格林[GeLin]沁令黄懿瑞、谢金生、李天佑、谭有贵、刘明传、曹得相、刘之陇、刘子明等8名将领“在营外帐棚守候，其余八十人拨入各营，单令开芳进见。（开芳）戴黄绸绣花帽，穿月白绸短袄，红裤红鞋，约三十二三岁。伺候两童，约十六七岁，穿大红绣花衣裤，美如女子，左右挥扇，随开芳入帐中。开芳仅向王（僧格林[GeLin]沁）、贝子（德勒克色楞）及各大人屈一膝，即盘坐地下。总兵以下，持刀环立，怒目而视。开芳与二童仰面四顾，毫无惧色，但云罚能宽贷，愿说金陵伙党来降。并求赐饭，遂开怀大嚼，说笑如常。僧邸知其叵测，饭毕遣出”。僧格林[GeLin]沁“于是红旗报捷”，又“令都统绵洵、天津道张起鹓等，以马队数百，将（李开芳等）九人押解进京，限六日解到，明正典刑”。同时，又为在连镇、高唐、冯官屯三处被太平[TaiPing]军击毙的8000余名官弁兵勇“设立供案”，将80余名太平[TaiPing]军战士及李开芳侍童2人捆绑前来，挖心活祭（同上书，第657页）。因天气炎热，致使清军[QingJun]大营一带臭不可近。李开芳等9名将领押解进京后，于6月11日全部遇害。