文明8年(1476年)、太田道灌が雲岡舜徳を招き武蔵国貝塚の地(現千代田区麹町周辺)に創建し「貝塚の青松寺」と称された。徳川家康の江戸城拡張に伴い現在の愛宕へ移転。江戸時代を通じて江戸三箇寺(青松寺・泉岳寺・總泉寺)として曹洞宗の宗政を担い、長州・土佐・広島など多くの藩の菩提寺として重用された。明治8年(1875年)、境内の獅子窟学寮内に曹洞宗大学林専門本校を開校し、翌年に泉岳寺・吉祥寺の学寮と統合して今日の駒澤大学へと発展した。昭和31年(1956年)にはインドネシアのスカルノ大統領から記念碑が贈られ、境内に安置されている。