将预应力的概念用于混凝土结构是美国工程师P.H.杰克孙于1886年首先提出的，1928年法国工程师E.弗雷西内提出必须采用高强钢材和高强混凝土以减少混凝土收缩与徐变（蠕变）所造成的预应力损失，使混凝土构件长期保持预压应力之后，预应力混凝土才开始进入实用阶段。1939年奥地利的V.恩佩格提出对普通钢筋混凝土附加少量预应力高强钢丝以改善裂缝和挠度性状的部分预应力新概念。1940年，英国的埃伯利斯进一步提出预应力混凝土结构的预应力与非预应力配筋都可以采用高强钢丝的建议。
预应力混凝土的大量采用是在1945年第二次世界大战结束之后，当时西欧面临大量战后恢复工作。由于钢材奇缺，一些传统上采用钢结构的工程以预应力混凝土代替。开始用于公路桥梁和工业厂房，逐步扩大到公共建筑和其他工程领域。在50年代中国和苏联对采用冷处理钢筋的预应力混凝土，作出了容许开裂的规定。直到1970年，第六届国际预应力混凝土会议上肯定了部分预应力混凝土的合理性和经济意义。认识到预应力混凝土与钢筋混凝土并不是截然不同的两种结构材料，而是同属于一个统一的加筋混凝土系列。在以全预应力混凝土与钢筋混凝土为两个边界之间的范围，则为容许混凝土出现拉应力或开裂的部分预应力混凝土范围。设计人员可以根据对结构功能的要求和所处的环境条件，合理选用预应力的大小，以寻求使用性能好、造价低的最优结构设计方案，是预应力混凝土结构设计思想上的重大发展。
