《刀剑录》说，关羽失败以后，便把刀丢到水里去了。可后来却有人说，见到了关羽的大刀。
明代包汝楫《南中纪闻》记载，荆门州南十五里有一座关帝庙，地上有一大石，石上有一石窍，关公的大刀就插在这石窍中。不过很有意思，人们可以摇动大刀，却没人能拔得起来。庙里僧人说，这刀重一百八十斤，这和传说的可不一样，—刀杆周围有七八寸，刀脊很厚，长大约有一丈四五尺，色泽苍青，体式精雅雄壮。天启元年，一个姓张的黔中总兵想取出刀来看看，办了三牲，以礼拜祭，又挑选了几十个健壮军士，想了很多办法也没把大刀拔起来。旁边有块碑文，说是关公经过襄樊时，把刀插在石头上的。
后人因此建庙塑像，年年供奉。清代罗天尺在他的《五山志林》中又说，在顺德也见到了关公刀。说顺德城没有西门。筑城之初，本打算开一西门的，出门跨西山而下，抵达金榜。在山上凿道的时候，却见一大刀，上有青龙偃月字——正是关公之刀。
