「山あり谷あり」という言葉は、文字通り平坦ではなく、高くそびえる山と深く険しい谷が連続する地形を指す情景描写から出発しています。これが転じて、人の一生や組織の歩みにおいて「調子の良い絶頂期（山）」と「不遇で苦しい低迷期（谷）」が交互に訪れるさま、すなわち人生の浮き沈みを象徴する慣用句として広く定着しました。
語源を遡ると、山岳信仰や街道交通が過酷を極めた日本の風土環境が色濃く反映されています。古来、東海道や中山道などの難所を越える旅路において、峠（山）を登り切った先には必ず急峻な谷が待ち構えており、旅人は一喜一憂することなく足元を固めて進むしかありませんでした。この過酷な道中記や紀行文学に描かれた比喩が、明治から大正期の近代文学、さらには大衆演劇の台本などを通じて民衆の間に浸透し、昭和中期以降には「人生航路の浮き沈み」を表す普遍的な口語表現として確立されたという経緯があります。
この表現が日本人の心に強く響くのは、東洋思想に古くから根付く「楽あれば苦あり」や、中国の古典『史記』に由来する「禍福は糾える縄の如し（かふくはあざなえるなわのごとし）」という思想と完全に一致しているためです。幸福と不幸は縒（よ）り合わせた一本の縄の表裏のように交互に訪れるという無常観を、視覚的かつ直感的な「山」と「谷」の2文字で言い換えた点に、この言葉の優れた言語造形美が存在します。
