現在では広く日本全国に定着している本曲ですが、そのルーツにはしっかりとした音楽的背景が存在します。とんとんとんとんひげじいさんの由来を辿ると、教育音楽や児童文化に深く関わった玉山英光氏の作曲による作品であることが記録されています。
シンプルなドレミの音階で構成された旋律は、ピアノ伴奏はもちろんのこと、アカペラでも音程を保ちやすい設計です。市販されているとんとんとんとんひげじいさんの楽譜を確認すると、ハ長調(C major)の非常に平易なコード進行(CとG7の反復)で書かれており、保育初任者やピアノが苦手な保護者でもすぐに弾きこなせる配慮がなされています。
「覚えやすく、歌いやすく、身体を動かしやすい」という3拍子が揃っているからこそ、民生用のレコードや保育者養成校のテキストを通じて全国へ普及し、現在もなお色褪せない名作として親しまれています。