由於當初艋舺環境險惡,清乾隆三年(1738年)泉州三邑移民,就將福建晉江安海龍山寺觀世音菩薩分靈至台灣,合資興建龍山寺。
清仁宗嘉慶年間台北發生大地震,龍山寺毀損嚴重,曾進行重修。1867年,又遭受暴風雨侵襲,再次大規模修復,此次修復後,龍山寺的建築格局與同年建造的艋舺清水祖師廟相類似。
日治時期,龍山寺部分空間被佔用作為學校以及臨時辦公處所。1919年,龍山寺住持福智法師見到龍山寺老舊破損,空間被充為公用,便與鄉紳進行募款重建,推舉辜顯榮為重建事務的董事長。隔年展開重建,聘請當時頂尖的木匠師傅,為今日龍山寺樣貌的基礎。龍山寺的大殿在昭和二十年(1945年)的第二次世界大戰中全毀,戰後才修