干旱区的湖泊在形成过程中往往伴随着一系列水进水退的过程，因而发育了上下叠加的泥岩层和沙土层。在长期的地质风化作用下，风和流水可以带走疏松的沙土层，但对坚硬的泥岩层却作用有限。
紧致的泥岩层并不是坚不可摧的，荒漠区变化剧烈的温差所产生的胀缩效应能够让坚硬的泥岩层发生崩裂，暴露出来的沙土层被水和风带走，逐渐演变为凹槽状。
再加上雨雪水的冲刷作用使得崩裂的裂隙加宽扩大，大风对裂隙不断进行剥蚀，沙土层慢慢形成风蚀沟谷和洼地，被留下来的坚硬的岩石则形成孤岛状的、大小不一的长条形土墩。
所以，要形成雅丹地貌需要两个至关重要的因素：一是发育雅丹地貌的地质基础，即湖相沉积地层；二是外力侵蚀，即荒漠中强大的定向风的吹蚀作用和流水的侵蚀作用。随着时间的推移，广袤戈壁中的沙层逐渐被搬运走，留下一片片土堆，就慢慢形成了这种奇特的地貌。
