この歌が生まれた背景には、平安初期の政界を揺るがす禁断の恋がありました。『伊勢物語』第四段「西の対（にしにたい）」に描かれたドラマの主役は、稀代のプレイボーイとして知られる在原業平と、藤原北家の令嬢・藤原高子（ふじわらのたかいこ / たかこ）です。
高子はのちに清和天皇に入内し、陽成天皇の母となる「二条の后」と呼ばれる超重要人物。当時、藤原氏が権力を盤石にするための極めて大切な存在であり、臣下にすぎない業平との恋愛は許されるはずもありませんでした。
業平は密かに高子の住む屋敷（五条の后の宮の西の対）へ通い詰めますが、噂を聞きつけた高子の兄・藤原基経や藤原国経らによって、彼女は別の場所へと隠されてしまいます。逢瀬の場所を失った業平は、彼女がいた部屋の跡を翌年の同じ季節に訪れました。荒れ果てた部屋の板敷きに身を投げ出し、月が西に傾くまで涙を流しながら詠んだのが、この「月やあらぬ」なのです。
