脱走した山南を追跡したのは、彼が弟のように可愛がっていた若き天才剣士・沖田総司でした。大津宿で沖田に追いつかれた際、山南は抜刀することもなく、静かに微笑んで同行を受け入れたと伝えられています。局中法度において「脱走は切腹」と定めた張本人たちでありながら、近藤や土方も山南の帰還には動揺を隠せませんでした。
元治2年2月23日、壬生の前川邸（現在の京都市中京区）の広間にて、切腹の儀が執り行われました。このとき山南自身が介錯人に指名したのが沖田総司です。親しい間柄ゆえの残酷な役回りに、沖田の心中は察するに余りありますが、山南は取り乱すことなく端座し、見事な作法で腹を切り、沖田の一刀によって生涯を閉じました。享年は33（満32歳前後）と推定されています。
この凄惨な最期に、一抹の切ない彩りを添えているのが恋人・明里との別れです。当時、新選組の屯所となっていた八木邸の跡取り息子・八木為三郎が後年語り残した手記には、胸を締め付ける光景が記録されています。
山南の切腹直前、島原の芸妓（一説には天神）であった明里が前川邸に駆けつけました。しかし、切腹の場への立ち入りは許されません。山南は部屋の格子窓から顔を出し、外に佇む明里と格子越しに最後の言葉を交わしました。明里は格子の桟に取りすがり、涙を流しながら別れを惜しんだとされます。為三郎の回想によれば、山南が静かに微笑んで障子を閉めた後、切腹の座へと向かったその姿は、子供心にも忘れられないほど気高く悲しいものだったといいます。
