このことわざに接した際、「中国の古典や漢文に元ネタがあるのでは?」と疑問を抱く人が少なくありません。しかし結論から言うと、この表現は中国由来の漢籍ではなく、日本国内で民間伝承や仏教説話が交じり合って定着した和製のことわざです。
古来、仏教における地獄の獄卒(亡者を苛む鬼)は、一切の情けをかけない絶対的な恐怖の象徴でした。その「絶対に情を解さないはずの鬼ですら涙を流す」という極端な対比を用いることで、人の心の琴線に触れる出来事の大きさを強調したのが語源となっています。
また、「鬼の目にも涙には続きの句があるのか?」という疑問も度々話題にのぼります。いろはかるた等では「鬼の目にも涙」単体で完結していますが、江戸時代の狂歌や俗謡では対句として「鬼の目にも涙、蜂の頭にも刺(針)」のように語呂を合わせて使われた例が存在します。ただし、一般的には独立した一つのことわざとして理解するのが通例です。