展示室を出た後に待っているのが、敷地面積約17,000㎡(約5,000坪)に及ぶ広大な回遊式日本庭園です。南青山の傾斜地を活かした庭園は、深山幽谷を思わせる高低差と豊かな自然林が特徴で、都心にいることを完全に忘れさせます。
庭園内には、初代根津嘉一郎が茶人「青山(せいざん)」として愛した4棟の名茶室(弘仁亭・無事庵、斑鳩庵・清渓亭、披錦斎・一樹庵、牛部屋)が点在しています。さらに、京都や奈良などから集められた無数の石仏、石塔、庚申塔、灯籠が木々の間にひっそりと佇み、散策するごとに異なる表情を見せてくれます。
春のカキツバタや新緑、秋の鮮やかなモミジの紅葉、冬の研ぎ澄まされた木立の美しさなど、四季折々の景観はまさに一期一会の体験です。なお、庭園内は石段や飛び石、未舗装の坂道が多いため、歩きやすい靴での来館が強く推奨されます。