人类建筑对水泥的使用最早可以追溯到古罗马时期，古罗马人会使用火山灰、石灰混合物加水，帮助砌房用的石块粘合，变得更加稳固，但当时并未作为建筑材料大量使用。

混凝土的原型也可参见重建于公元124年、位于意大利首都罗马圆形广场的北部的万神庙。该建筑是罗马最古老的建筑之一，也是古罗马建筑的代表作，距今已有1900年的历史，依然保存完美。