古代
考古人员发现5000年前的凌家滩先民不仅能够制造精美的玉石器，而且已开始稻作农业，饲养或捕猎猪、鹿、鸟禽等多种动物丰富饮食品种。另外在房屋建设中，他们已懂得类似钢筋混凝土的：“挖槽填烧土，木骨撑泥墙”的建筑工艺。
5000年前的凌家滩人不是只会简单的搭建屋舍，事实证明，当时的凌家滩人已懂得“挖槽填烧土，木骨撑泥墙”的建筑工艺，这和现在的钢筋混凝土非常相似。工作人员说，原始先民要用经过火烧过土作为房基槽与墙体的填充材料，在基槽内用木棍作为墙体的支撑柱，然后填埋红烧的土块，并在墙体两侧表面敷上较厚的粘泥，甚至一部分还可能用芦苇杆加固。
近代
1900年，万国博览会上展示了钢筋混凝土在很多方面的使用，在建材领域引起了一场革命。法国工程师艾纳比克1867年在巴黎博览会上看到莫尼尔用铁丝网和混凝土制作的花盆、浴盆、和水箱后，受到启发，于是设法把这种材料应用于房屋建筑上。1879年，他开始制造钢筋混凝土楼板，以后发展为整套建筑使用由钢筋箍和纵向杆加固的混凝土结构梁。仅几年后，他在巴黎建造公寓大楼时采用了经过改善迄今仍普遍使用的钢筋混凝土主柱、横梁和楼板。1884年德国建筑公司购买了莫尼尔的专利，进行了第一批钢筋混凝土的科学实验，研究了钢筋混凝土的强度、耐火能力。钢筋与混凝土的粘结力。1887年德国工程师科伦首先发表了钢筋混凝土的计算方法；英国人威尔森申请了钢筋混凝土板专利；美国人海厄特对混凝土横梁进行了实验。1895年——1900年，法国用钢筋混凝土建成了第一批桥梁和人行道。1918年艾布拉姆发表了著名的计算混凝土强度的水灰比理论。钢筋混凝土开始成为改变这个世界景观的重要材料。
混凝土可以追溯到古老的年代，其所用的胶凝材料为粘土、石灰 、石膏、火山灰等。自19世纪20 年代出现了波特兰水泥后，由于用它配制成的混凝土具有工程所需要的强度和耐久性，而且原料易得，造价较低，特别是能耗较低，因而用途极为广泛（见无机胶凝材料）。
20世纪初，有人发表了水灰比等学说，初步奠定了混凝土强度的理论基础。以后，相继出现了轻集料混凝土、加气混凝土及其他混凝土，各种混凝土外加剂也开始使用。60年代以来，广泛应用减水剂，并出现了高效减水剂和相应的流态混凝土；高分子材料进入混凝土材料领域，出现了聚合物混凝土；多种纤维被用于分散配筋的纤维混凝土。现代测试技术也越来越多地应用于混凝土材料科学的研究。
