在魏、晋、南北朝只是逐渐发展，并没有完全兴起，当时仍附属于人物画，作为背景的居多；隋唐始独立，如展子虔的设色山水，李思训的金碧山水，王维的水墨山水，王洽的泼墨山水等；五代、北宋山水画大兴。
作者纷起，如荆浩、关仝、李成、董源、巨然、范宽、许道宁、燕文贵、宋迪、王诜、米芾、米友仁的水墨山水，王希孟、赵伯驹、赵伯骕的青绿山水，南北竞辉，达到高峰。从此成为中国画中的一大画科；元代山水画趋向写意，以虚带实，侧重笔墨神韵，开创新风。
明清及近代，续有发展，亦出新貌。表现上讲究经营位置和表达意境。传统分法有水墨、青绿、金碧、没骨、浅绛、淡彩等形式。
到了李思训、王维、张等便较为完善了山水画的画理、画法，章法（构图）逐渐形成了中国山水画的面貌。五代的荆浩、关同更有新的创新，一流陈规旧习。出现了新的局面。到了宋代，董源、范宽、李成三家鼎立，前无古人。山水画法达到了几乎完美的境界。
以描写山川自然景色为主体的绘画称山水画。在魏、晋、南北朝就已逐渐发展，但仍附属于人物画，作为背景的居多；隋唐开始独立，如展子虔的设色山水，李思训的金碧山水，王维的水墨山水，王洽的泼墨山水等。
五代、北宋山水画大兴，如荆浩、米芾、米友仁的水墨山水，王希孟、赵伯驹的青绿山水，南北竞辉达到高峰，从此成为中国画领域的一大画科。
宋代山水画倾于自然，侧重“真”和“实”，提倡山水画的写实风格。多使用绢，不仅勾勒细致、刻画严谨，而且用墨对画面进行层层渲染，展现出一份凝重恬静之美。
宋代的山水画展现的是前所未有的细腻、丰富、写实的画风，而且这个时期画的题材、风格都层出不穷。宋代很多皇室贵族对山水画格外喜爱，这在他们所用的屏风上就有明显的体现。
元代山水画趋向写意，以虚代实，侧重笔墨神韵，开创新风。明代及近代续有发展，董其昌及清初“四王”为山水画走向绘画理论及绘画手法的程式化完备作出了重大贡献。