马头墙起初名为“封火墙”，它的出现可以追溯到明代。
在安徽的黄山市，曾出土过一块石碑，名《徽郡太守何君德政碑记》，该碑是明代官员林瀚刻于正德年间。上面记载的是徽州太守何歆的功绩，这何歆正是马头墙的发明者。
碑上有提到在何歆之前，徽州郡城历任的知府对于火灾束手无策，“或一年一作，民遭烈祸，殆不堪病。”更有甚者意图借风水一类的玄学办法解决火灾，然并无起色。而何歆上任后脚踏实地，寻求防火之法，认为“降灾在天，防患在人。”在三年期间，何歆便组织百姓修建了封火墙。这一举措使徽州“自后六七十年无火灾，灾辄易灭，墙岿然不动。”
