自公元3世纪，《论语》、《千字文》等著作传入日本，随着中日文化交流的加深，日本越来越多的人开始学习并用汉文创作。7世纪中叶，大友皇子和大津皇子成为最早以汉文写诗的诗人，这一时期，奈良时代的贵族宴饮和迎宾活动中，诗歌成为必备，长屋王等诗人如藤原房前、藤原宇合等人活跃。他们的作品深受齐梁体和唐初诗风影响，以五言诗为主，多用于侍宴应景。
平安时代，儒家学说在日本受到推崇，汉诗文创作进入新的发展阶段。嵯峨天皇和淳和天皇编纂的诗文集，如《凌云集》、《文华秀丽集》和《经国集》，收录了大量平安初期的作品，以七言诗为主，内容扩展至宫廷应对，代表作家有小野篁和空海。空海的《文镜秘府论》对日本汉学和古典文学理论研究具有重要价值。
838年，白居易等人的诗集传入，影响了平安中后期的汉诗文，涌现了如菅原道真、三善清行等优秀作家，他们开始关注内容，不再仅仅追求华丽的词句，作品风格多样，名篇辈出。《本朝文粹》和《本朝续文粹》则记录了这一时期的风貌。
然而，平安末期，汉诗文创作逐渐衰落，直至室町时代，汉诗文的地位进一步下降。直到禅学盛行时期，禅家提倡汉诗文修养，五山文学兴起，京都成为文化中心，如虎关师、雪村友梅等人的作品，以艺术性和世俗情感为特点，创作丰富。
进入江户时代，前期汉诗文受到朱子学派影响，以教化为主，而后古学派和古文辞派的出现，推动了诗风的多样化。江户后期，汉诗文再次繁荣，各地诗社活跃，如菅茶山、赖山阳等诗人推动了新的诗风发展，性灵说成为主流，一直延续到明治时代。
日本人用汉文创作的诗文。兴起于公元 7世纪中叶的近江时代，到明治维新时代走向衰落，约有1200年的历史。日本的古代文学有两大分支，一是日本人用日文创作的和文学，另一种就是日本人直接用中文创作的诗词文赋等文学作品，被称作日本的汉文学。 在日本的汉文学当中，汉诗是最重要的一种。所谓日本汉诗，就是日本人直接用中文创作，并且遵从汉诗格律用韵的一种诗歌形式。 按其发展可分为王朝时代，五山时代 ，江户时代，明治以后。四个时期风格各有特色。