祁连山的北侧与南侧分别以明显的断裂降至平原。北坡与河西走廊间相对高度在20_米以上，而南坡与柴达木盆地间仅1000余米，狭义的祁连山仅指最北一列。它是黄河和内陆水系的分水岭。山间的谷地、河谷宽广，面积约占山地总面积的三分之一以上，是个水草丰美的牧场。地势较低的大通河谷、湟水谷地，更是青海省的重要农业区。祁连山地多雪峰、冰川，虽然冰川规模不大，但是由于山地广，水量多，河流可直下走廊的干燥地区。因此，融冰化雪，增加冰水，是当地山下发展农业必要的措施。早在清代末期，已有群众上山化冰融水的活动。据1962年统计，祁连山有1619条冰川，面积约1316平方公里，多属大陆型冰川，冰面表碛小，移动慢。但从蓄水量来说，却不算小，如祁连七一冰川，长约30.5公里，冰层厚80米，储水量为1.5亿立方米。祁连由地年降雨总量约500亿立方米，流出只有150亿立方米，所以融冰化雪，可使水量增加，是当地发展农业的重要水源。此外，祁连山脉的林、矿资源也很丰富。
祁连山中的河谷和洼地，海拔平均3000多米;而祁连山浪峰般的高山顶则在4000至5000米之上。一路之上履冰踏雪，寒风刺骨。祁连山的每一个山峰本来就显得气势雄伟，人称是"石骨峥嵘，鸟道盘错"。这些由冰雪和石头凝成的奇形怪状、棱角分明的脉脊。