世界园林多种多样多体系，主要有三大体系，它们是东方园林、西亚（伊斯兰）园林、西方（欧洲）园林。东方园林体系以中国园林为代表，其中也包括了日本园林，而日本的园林叫作庭园。
根据成书于公元712年的神话兼历史书《古事记》和成书于720年的《日本书纪》，公元1世纪的日本第12代天皇景行天皇在他庭院的水池中放进了金色的鲤鱼，于是诞生了日本最早的庭园，但那毕竟是传说。《日本书纪》关于庭园的记录更为详细可信，对于时间、地点、人物均有记载：公元612年，在齐明天皇的皇居南庭池畔，从朝鲜半岛来的归化人路子工建了须弥山和吴桥，然而这一庭园的遗迹至今不为人知。而目前出土的最早的庭园遗迹则可追溯到飞鸟时代。
经过时代变迁，日本出现了各式各样的庭园。飞鸟时代和奈良时代出现了池泉舟游式庭园，其建造通过引水挖池，池中堆土石筑山成为中岛，此外亦有单独的岩石和多块岩石组成的石组，来表示神山、仙山，另造舟船环游于此等人工庭园之中。池水或来自地下涌水（泉水），或开渠道引自园外河川，小渠称作“遣水”，有的遣水曲曲弯弯，便以平整的石块作岸，两旁植梅树，主人在那里举办曲水之宴，这便是曲水庭园。
奈良时代后期，中国佛教的末法思想传入日本，并于平安时代渗透到人们日常生活中，于是出现了净土庭园。平安时代长达近三百年，那是一个公家贵族文人（服务于朝廷的贵族或天皇的近侍）占据统治地位的时代，是一个僧人地位崇高的时代，这一时期的池泉庭园较之前更加发达，不仅存在于皇宫或离宫中，还进入到公家、贵族宅邸中。那些宅邸多是坐北朝南、左右对称的“寝殿造”建筑，于是出现了寝殿造庭园，它多位于贵族宅邸的南部。
镰仓时代，贵族文人的统治地位被打破，取而代之的是武家当权的幕府，天皇变成了国家的象征，而最高权力让位于征夷大将军。此后在大大小小的武士宅邸中出现了武家庭园。镰仓时代初期，佛教禅宗在日本得以确立，此时出现了禅寺庭园，也可称方丈庭园，它可兼做修行道场。禅宗思想进入日本，立刻与武士阶层的思想产生了共鸣，也影响到武家庭园简朴而有魄力的营造方式。
日本禅宗的确立，也催生了茶道的产生。进入室町时代，从那些禅寺庭园中发展出来了枯山水庭园。安土桃山时代，茶道确立，出现了茶室，也出现了附属于茶室的庭园，它称作茶庭或露地。江户时代出现了大名庭园，它既是武家庭园的最高形式，也囊括了此前出现的各式庭园的内容。江户时代执行着“士农工商”的身份制度，里面包含了重农轻商制度，但到江户末期商人抬头，于是出现了“商家庭园”。自明治维新起，日本迈向资本主义经济的工业化道路，出现了新兴实业家，有不少发了财的实业家建起了和式庭园或新式庭园……
日本庭园也和世界园林一样，包含各种样式和体系，也有各种分类方法，总体来说可归类为池泉、枯山水、露地三大形态。日本学者将营造日本庭园的硬件总结为四大要素：石、水、植栽、添景物。其实纵观世界园林或其中的中国园林的硬件，也离不开那四大要素，只是它们在日本庭园中的表现形式和表现内容有所不同。其中的“石”既有日本固有的岩石崇拜，更有外来信仰的影响；“水”是池、泉、瀑布、引水，但有时会以砂、石来表示；“植栽”是乔木、灌木、花草，但通过剪裁变了模样；“添景物”是点景、衬景、配景之物，比如石墙、林墙、竹篱笆、石灯笼、石塔、石桥、石路、石造洗手盆等。
为方便之后对于日本庭园的梳理，此处先将与庭园有关的日本时代列表如下：
飞鸟时代 592年—710年
奈良时代 710年—794年
平安时代 794年—1185年
镰仓时代 1185年—1333年
（建武新政） 1333年—1336年
南北朝时代 1336年—1392年
室町时代 1336年—1573年
（战国时代） 1467年—1590年
安土桃山时代 1573年—1603年
江户时代 1603年—1868年
明治时代 1868年—1912年
大正时代 1912年—1926年
昭和时代 1926年—1989年
日本庭园中使用了许多日语专用词，多数会随文解释，少数专用词先在这里做个说明：
中岛：池水中心之岛，或主岛。
出岛：伸进池中的舌形半岛，有着曲线之美。
洲浜：表示河岸湖岸海滨的沙洲。
荒矶：表示海边岩岸。
石组：数块岩石的组合。
护岸石组：池与地面相接处以大小石块组成的石组，用以保土和造型。
砂盛：用白砂石堆砌、拍打成的圆锥形砂山。
飞石：庭园，尤其露地庭园中，隔步配置、用于行走的一串平石块。
泽飞石：置于池水中的飞石，亦称“泽渡”“矶渡”，可作渡桥。
刈込：“刈”本意是割草，“込”是日造汉字，相当于汉字表示曲折的“迂”，两字合成的“刈込”是日本庭园营造的技法之一，即将树木枝叶修剪成圆形或蘑菇形。
大刈込：连成排的树木经修剪，表现为连绵之山或波浪云霞等景色，也可作庭园围墙。
袄绘：“袄”意为带衬里的衣服，“袄绘”是指在木框拉门贴着的日本纸或布上绘出的图画。
障壁画：包括袄绘、屏风画和室内壁画的总称。
屋敷：房屋和宅地的合称，一般指豪邸。