1934年的12月，天气已经渐渐转冷。接到中革军委发来的电报指示后，陈树湘带领着红34师的余部突围成功，来到了这个隐藏在山谷中的洪水箐村，宿营了一个晚上。
第二天拂晓，国民党桂系军阀在当地民团的带领下来到洪水箐村，向红34师发起了突然袭击。陈树湘带领部队立即转移到对面山上，构筑阻击阵地。此时，红34师团以上干部，除了师参谋长王光道，就只剩下了师长陈树湘和第100团团长韩伟。
追敌甩不掉，红34师的处境越发危急。刚刚击退了敌人的又一次进攻，此时的陈树湘没有任何犹豫，立即召集师、团干部宣布了一条重要决定，他命令韩伟带着师的主力第100团突围回到湘南，陈树湘则带领另外两个团做最后的掩护。
那个时候谁都明白这最后的掩护意味着什么，所以韩伟没有遵从他的军令说：“你是师长，只要你还在，这个师的番号就能存在。”他们最后突围前共同约定：“万一要是突围不成，就誓为苏维埃新中国流尽最后一滴血。”
分手后的韩伟，在与敌人激烈交战后突围成功。为了与湘南游击大队会合，陈树湘带领着第101团和第102团往九嶷山区进发，此时的队伍只剩下不到300人了。湘南地区河流密布，要到达九嶷山区，路途上不可避免地要渡过几条河，牯芝江就是其中之一。
牯芝江的江面不算太宽，渡口有摆渡的小船。陈树湘提醒战士们要做好战斗准备。
当小船行至河心时，埋伏在岸上的江华县民团开火了，陈树湘迅速指挥战斗，部队与敌人开始了猛烈的激战。
红34师的战士们拼尽全力冒着敌人如雨的枪弹，强渡牯芝江，然而，他们却也为此付出了极其惨重的代价——师长陈树湘中弹了。
牯芝江一战后，战士们用担架抬着师长陈树湘向九嶷山方向退去，其间又遭到了数次敌人的袭击，战士们艰难应战，伤亡惨重，最终，部队被敌人打散，师长陈树湘不幸落入敌手。
关于陈树湘的去向，韩伟将军也在他的回忆文章中写道：“道县保安团第一营营长何湘听说抓到一个红军师长，高兴得发了狂，命令他的爪牙抬着陈师长去向主子邀功领赏。”
在今天道县蚣坝镇的石马神村，有一所创办于1946年的村完全小学，小学当年的校舍是一座古庙。据当地人说，当年，受伤的陈树湘被敌人用担架抬着前往道县县城领赏，行至此古庙休息。
为了不让敌人得逞，躺在庙堂走廊处的陈树湘趁敌不备，忍着剧痛，从伤口处伸入腹部抠出肠子，用力绞断，结束了自己的生命。
当年的长沙《大公报》连续数天进行刊登报道，这其中，12月21日的最后一篇关于陈树湘的报道中称，12月20日下午二时，敌人将陈树湘的首级放在篾笼里，悬挂在长沙小吴门外的石灯柱上示众。
当年的长沙小吴门外，正是瓦屋街和清水塘一带。那里正是陈树湘青少年时代学习生活，成为一个革命者的地方。
这位红34师的师长，以这样悲壮的牺牲践行了他与战友立下的约定。
有人曾这样说过：向死而生，是根植红军灵魂深处的血性基因。这背后有草鞋的柔软，有刀枪的碰撞，更有信念的铸造。人们将永远不会忘记，1934年的湘江之侧，有这样一位为理想和信念践行了誓言的红军师长。
那一年，陈树湘29岁。
