沙子由矿物和微小的岩石碎片组成。岩石碎片是岩石经过侵蚀和风化而成。沙子的成分因地方而异，具体情况视当地岩石的来源和条件而定。
在内陆（如沙漠）和非热带海岸（如沙滩）环境中，沙子的最常见组分是硅（二氧化硅 SiO2）。通常情况下，硅以石英石的形式存在。
长石砂岩是一种长石（硅酸铝）含量很高的沙子或沙岩，通常是附近的花岗岩经过风化和侵蚀形成的。
在珊瑚礁中找到的细质白色沙子是地上珊瑚（石灰石），它们可以通过鹦鹉鱼的消化系统。
一些地方的沙子中包含磁铁矿、粘土、绿泥石、海绿石或石膏。富含磁铁矿的沙子呈深黑色。含有绿泥石和海绿石的沙子一般呈绿色。位于新墨西哥州的白沙国家博物馆的石膏沙丘以其白色而闻名于世。
在某些地区，沙层中包含石榴石和其它耐蚀矿物，如一些宝石矿石。
