根据小说《亮剑》里面说，张大彪在李云龙受伤后跟随部队南下，参加了金门战役，在这场战役中牺牲了。金门战役是一次十分有争议的战役，是解放战争后期的一次渡海登岛战役。渡江战役结束之后，国民党边战边退，全部往沿海方向，后退至台湾。当时是第三野战军负责向东南沿海进攻，那里有数百个岛屿，由于解放军大部分都是陆军，不怎么熟悉这种登岛作战的方式，所以解放这么些岛屿还是有难度的。当时最重要的一个岛屿就是金门岛，因为他是以后解放台湾的很大一个阻碍。
当时叶飞军团求胜心切，在建国后一个月的时候，便只带了3个团的兵力去进攻金门岛，结果先是船队逆风而行，延误了登陆的时间，在登岛之后，又遭到了岛上部队的阻击。在后来返航撤退的时候又遭到了国民党军舰的伏击。只有一艘幸免。登岛官兵虽然誓死抵抗，但还是全军覆没了！
李云龙住院后，2师在张大彪的带领下，一直从长江边，打到了福建一带，最终在第一次金门战役中，不幸牺牲了
