传说，在千佛山脚下曾住着一户人家，有一天，这家的孩子在山间发现了一个山洞，进去一看，一只金牛在金磨上磨金豆子。孩子从地上捡了几粒，拿回家了，他的哥哥嫂子看到后盘问了来龙去脉，便想，何必去捡豆米呢，如果把金牛和金磨都弄回家，岂不更好?于是二人便去洞内牵牛。没想到金牛受到惊吓，一跃而去，洞门也随即关闭，夫妻二人却被关在洞内。
这条金牛离开千佛山后，一直向西北方向逃去，在济南西北5公里多的太平河畔停了下来，另在山间找了个洞住下，成为金牛居住地，所以后来人们便把这座山称为金牛山了。如今，济南华山脚下还有个山洞，老济南们说，那就是传说中的金牛洞，据说还能看到金牛吃草的石槽。
