中国禅宗早由道昭、道睿、义空等传人日本，然未独立成为宗派。后睿山的觉阿于南宋乾道七年（1171）到中国，从杭州灵隐寺佛海禅师慧远受临济宗杨岐派法脉，四年后回国，是日本有临济禅之始。及荣西入宋回国，才开创日本临济宗。
荣西于乾道四年（1168）四月到中国，登天台山巡礼圣迹。同年九月，携带天台章疏30余部回国。淳熙十四年（1187）再度入宋，受传佛心宗，时怀敞住持天童寺，又亲侍左右，遂嗣其法，传临济正宗法脉。绍熙二年（1191）回国，初于博多津开圣福寺，盛倡临济禅法。日建仁2年（1202），源赖家于京都建立建仁寺，请他为开山。他为提倡禅宗，著有《兴禅护国论》3卷。后应源实朝之请，赴镰仓创立寿福寺，开始传禅法于关东，为日本临济宗的开祖。中国宋代禅宗盛行，日本僧人入宋求法和中国禅僧前往日本传禅的，络绎不绝。古来日本称禅宗为24派。其中3派属于曹洞，21派属于临济。荣西灭后25年，圆尔辨圆入宋，于浙江径山，得受无准师范禅法。五年后，兰溪道隆赴日，大但教外之旨于镰仓，北条时赖将军大喜，仓立建长寺，请为开山。弘安元年（1278）入寂。门下有24人，最有名的是南浦绍明。他入宋回国后，应北条贞时之请，继主镰仓建长寺。其后传禅的，还有车明葱日、东陵永玙、兀庵普宁、子元祖元、一山一宁、清拙正澄、大休正念等有名禅僧。
荣西来后，日本禅宗逐渐得势，但多属临济宗派。及道元入宋归国，于嘉祯2年（1236）在山城京都极乐寺旧址，开堂进法，设立僧堂，赐寺额为兴圣宝林禅寺，是日本有曹洞宗之始。
道元24岁时入宋。时曹洞宗如净禅师主天童寺，道元从学三年，嗣其法，为洞山第14世正统。直宋绍定元年（1228）回国，初寓京都建仁寺，宽元2年（1244），被多野义重于越前（今福井县）建大佛寺，被请为开山，这就是现在曹洞宗的大本山永平寺，道元遂成为日本曹洞宗的开祖。曹洞宗的信徒多为地方农民，临济宗的多为将军武士，故日本向有“曹洞土民，临济将军”的俗谚。
五山文学与茶道花道 禅宗自镰仓时代传入日本后，经吉野时代（亦称南北朝）至室町时代的200余年间，由于朝野崇奉，不断得到发展。临济宗14派的本山，几科都在京都和镰仓。当时模仿中国宋代禅宗五山十刹制度的镰仓五山和京都五山的僧侣，致力于诗文的研究，形成了所谓五山文学。其后日本遣明的正副使节，多数为五山僧侣所担任。其中知名的有了庵桂悟和策彦周良等。此时禅守的思想、文学、美术、风俗、习惯等，对日本国民生活的影响很大。如茶道、花道、香道与书道等，均随禅宗的发展而流行。
独立发展的日莲宗
刻宗以创宗者日莲的名字命名，与中国佛教无直接关系。日莲认为只有《妙法莲华经》是正法。建长5年（1253），归乡访亲，4月28日登清澄山，向着海上初升的红日，高唱《高无妙法莲华经》10遍，为日莲宗创立之始。为了宣扬自己的新教义，他对其他宗派进行了剧烈的批驳，因此三度被流配。其教化方法有所谓“折伏”（恶逆的教化）和“摄受”（顺信的教化）两种。灭后由其门下的日昭、日朗、日兴、日向、日顶、日持等六老僧葬其遗骸于身延山，建久远寺，即今日宗的总本山。著作有《守护国家论》、《立正安国论》等300余种。后来日莲的弟子各分成许多派别。近代日本新兴宗教的几十个教团，有70%属于日莲系。
这一时期，各派都采取否定现实的态度，厌恶秽土，欣求净土或耽于禅，教义和规则都较简单，具有“平民化”的特点。这些新派别还与日本15～16世纪的农民起义有关系。如1488年加贺国（今石川县）地区爆发的真宗农民起义、1563年通用州一向宗起义、1570年伊势长岛真宗僧徒起义等。而加贺国地区的真宗农民起义气胜利，使其后百年间加圆国的管理权掌握在真宗教徒手中，由农村上层、僧侣和农民代表组成领导机构。末期，由于儒学影响的扩大，佛教的影响逐渐缩小。
德川时代（1603～1867） 儒学特别是朱子学取代了佛教，成为德川封建社会占统治地位的意识形态，佛教的影响进一步缩小。当时京都佛教虽趋衰落，但关东地区（指箱根以东的关东八州，即今东京横滨地方）的佛教渐盛。德川幕府一方面采取锁国政策，同时订立各方面的制度。对于佛教，自寺院的等级，僧阶的高下，乃至僧侣的法服等，都有一定的规制。先定皇室的佛教制度，明示“门迹”、“院家”以下的级别。门迹有“宫门迹”、“摄家门迹”及“准门迹”之别，订立晋级的法规，禁止僧位、僧官的滥授。划定区域，一寺一皆令有所隶属。以总本山辖大本山，以大本山统摄其所属各寺。如净土宗以东京增上寺为本山统辖关东诸寺；天台宗以日光门主统辖一宗：真宗东、西两派的别院各设“轮番”（别院轮流住职之称）等。这些制度小自一寺、大至一宗一派，其应遵守的法规，修行的阶段，僧阶的晋级，法衣的等差等，完全具备，一直维持到明治维新以前。
日本禅宗自镰仓时代以来，自临济与曹洞两宗平分天下。到了德川时代，由于锁国政策，只留长崎一港与外国通商。当时中日贸易商舶往来频繁。居住在长崎的华侨，先后开创了分紫山福济寺（漳州寺）、东明山兴福寺（南京寺）和圣寿山崇福寺（福州寺），即所谓三唐寺。三唐寺的住持，均从中国请去。最初有明僧真圆、觉海、超然、逸然等。后有福州黄檗山万福寺，在临济曹洞之外，另立黄檗一宗，成为日本禅宗三派之一。
明治维新后 日本起资产阶级改革运动，提出王下笔昨古、“神佛分离”和“废佛毁释”。首先命令门迹亲王复饰（还俗），废止宫廷的佛教仪式，排除神社内的佛像，废止供于神前的佛具，禁止僧侣参加神道仪式，禁止“神佛混淆”，颁布所谓“神佛判然”的法令。从而日本各地发生了烧弃佛像佛画、破坏寺庙堂塔、命令僧尼还俗、把寺院改作医院和学校等事件。明治5年4月25日，新政府以太政官布告，许可僧侣带妻食肉和蓄发，同时又命僧侣于治名上加姓，于是某些寺院的僧侣便公开娶妻食肉。佛教僧徒为适应新的形势，兴办各种社会事业，派遣僧侣出国考察和留学，创办学校，培植人材，并开始向国外传播佛教及事临狱的教化等。明治22年，日本政府颁布宪法，允许信教自由，各宗竞相兴办大学或专门学校出版了不少佛教著作，同时于各大学设佛教讲座，一时佛教虽有复苏的迹象，但总的趋势是影响越来越小。自明治维新以后的60年间，日本的佛教形成了13宗56派。
第二次世界大战后 1945年12月15日占领军颁发了《神道指令》，日本开始实行信教自由与政教分离。原由国家颁布的《宗教团体法》于同年12月18撤销，同时公布了《宗教法人令》。过去依据《宗教团体法》，曾把原有的佛教13宗56派，统合为13宗28派。在《宗教法人令》公布后，又各分派独立，成为270个教团。根据信教自由的原则，隶属和脱离所属的宗派是被允许的，从而使寺院之间的隶属关系松弛。
战后新兴宗教有显著发展。据统计，日本大约每20人中即有一人参加新兴教团，其中70%属于日莲系。主要有：创价学会、立正佼成会、妙智会、灵友会、佛所护念会、日本山妙法寺大僧伽、念法真教、孝道教团、解脱地、真如苑等。此中除天台系的念法真教、孝道教团和真言系的解脱会外：其余创价学会等均属于日莲系。这些新兴教团，多与政治活动发生联系。
新兴教团开始产生于战前，战后依《宗教法人令》而被公认。由于传统佛教考虑的主要是生死大事，对于现实总是不很关心。新兴教团所关心的不是死后，而是要实现天国于地上。如创价学会就主张把“真善美”，改为“利善美”，换“真”为“利”，追求地上幸福的实现。这种思想比较适合时代潮流和日本国内形势，故新兴教团不断得到发展。到目前为止，佛教仍是日本的主要宗教，现在日本各地有佛教各宗宗立男女大学20余所。还有许多学会、研究团体，专门从事佛教的研究。各宗还派遣传教师到欧美各国建立别院，进行佛教宣传。
